參考資料與速查
AI 紅隊演練的速查表、快速參考、目錄、檢核清單與比較矩陣的完整集合,涵蓋攻擊技術、防禦繞過、工具、框架與合規。
本節是實務者的工具箱——一組為在工作期間快速取用而設計的濃縮參考。課程章節提供深入解釋與學習脈絡,而此處的參考則提供您在案件進行中需要快速查閱攻擊技術、找到正確工具旗標,或將發現對應到合規框架時所需的精煉、可行動資訊。
本集合中每份參考都設計為立即可用。速查表將整個主題壓縮為可快速掃讀的格式;快速參考提供您需要的具體指令、載荷與配置,而不附帶教育脈絡;目錄有系統地列舉技術,讓您能驗證覆蓋範圍;檢核清單確保您不會在結構化流程中遺漏步驟;比較矩陣協助您為任務挑選正確工具。這些是您在案件中會加入書籤、列印並隨手開啟的資源。
參考類別
參考依用途組織,協助您快速找到所需。
攻擊參考 提供攻擊技術與載荷的快速存取目錄。AI 紅隊速查表以濃縮形式涵蓋整個案件生命週期;提示詞注入快速參考與提示詞注入速查表依技術類型組織注入載荷;越獄技術目錄列舉已知越獄方法並附範例載荷;常見攻擊載荷參考提供依目標與目的組織、可直接複製貼上的攻擊字串。這些參考在案件的攻擊執行階段最為實用。
防禦參考 記錄防禦機制與其繞過方式。防禦繞過快速參考將常見防禦對應至其已知弱點與繞過技術;大型語言模型安全檢核清單提供結構化評估清單,用於評估 AI 部署的防禦姿態。這些參考支援評估規劃與報告階段。
工具參考 協助您挑選與配置正確工具。紅隊工具比較矩陣以攻擊覆蓋、自動化能力、報告與整合等維度評估工具;詳盡工具比較提供逐功能的深入分析。這些參考在案件規劃與實驗建置時最有價值。
框架與合規參考 將發現連結至既有標準。框架對應參考在 OWASP、NIST、MITRE ATLAS 與其他框架間建立對應,使發現能以客戶偏好的框架報告;OWASP LLM Top 10 快速參考提供大型語言模型應用安全的標準清單;法規快速參考涵蓋跨司法管轄區的合規要求;雲端 AI 安全速查表處理雲端特定安全考量;AI 事件回應檢核清單提供回應 AI 安全事件的逐步流程。
學習參考 支援結構化技能發展。精選學習路徑依角色與目標將課程組織為建議順序;延伸 AI 安全詞彙表定義本領域廣泛使用的專業術語。
本節內容
- AI 紅隊速查表 ——涵蓋範圍界定、偵察、威脅建模、攻擊執行與報告的案件生命週期濃縮參考
- 提示詞注入快速參考 ——附範例載荷的注入技術目錄
- 大型語言模型安全檢核清單 ——評估 AI 系統安全的結構化清單
- 精選學習路徑 ——依角色與經驗層級組織的建議學習順序
- 防禦繞過快速參考 ——常見防禦對應至繞過技術
- 框架對應參考 ——OWASP、NIST、MITRE ATLAS、歐盟 AI 法與其他框架的交叉參考
- 延伸 AI 安全詞彙表 ——AI 安全專業術語的完整定義
- 紅隊工具比較矩陣 ——主要 AI 紅隊工具的功能比較
- 提示詞注入速查表 ——可複製貼上的注入載荷
- 越獄技術目錄 ——越獄方法的系統化列舉
- OWASP LLM Top 10 快速參考 ——濃縮的 OWASP 清單
- 紅隊工具比較 ——詳盡工具功能分析
- 雲端 AI 安全速查表 ——雲端平台特定安全參考
- 法規快速參考 ——跨司法管轄區合規要求
- AI 事件回應檢核清單 ——逐步事件回應流程
- 常見攻擊載荷參考 ——依技術組織的即用攻擊載荷
先備知識
參考假設您熟悉對應的課程內容。瀏覽不需特定先備條件,但您將獲益最大,若您:
- 已完成您正在使用之參考領域的相關課程章節
- 有進行中的案件或實驗工作,因而需要快速存取資訊
- 熟悉 逐步導覽 章節中至少一項 AI 紅隊工具