策劃學習路徑

從新手到專家專業化的六條結構化學習路徑，以最佳順序引導你完成 AI 紅隊課程。

路徑 1：AI 紅隊基礎（新手）

適合： 剛接觸 AI 的安全專業人員、對 AI 安全有興趣的開發者 時間： 約 40 小時

1. 1

   階段 1：理解 AI 系統（10h）

   1. 大型語言模型如何運作 — Transformer 架構、分詞、推論
   2. 嵌入向量與 RAG — 向量表示與檢索
   3. AI 系統架構 — API、代理、部署模式
2. 2

   階段 2：核心攻擊技術（15h）

   4. 提示詞注入 — 直接與間接注入
   5. 越獄技術 — 繞過安全訓練
   6. 代理利用 — 工具濫用與操控
   7. RAG 與資料攻擊 — 資料投毒與萃取
3. 3

   階段 3：動手練習（15h）

   8. 實驗室：環境設定
   9. 實驗室：第一次注入
   10. 完成所有剩餘的 新手實驗室

路徑 2：專業紅隊員（中階）

適合： 路徑 1 的完成者、將 AI 加入工具箱的滲透測試員 時間： 約 80 小時

1. 防禦概覽 — 理解你正在攻擊什麼
2. 所有 中階實驗室 — 代理利用、RAG 投毒、防禦繞過
3. 偵察與技藝 — 目標剖析與提示詞發現
4. 紅隊工具 — Garak、PyRIT、promptfoo、Inspect AI
5. 案件規劃 — 範圍界定與方法論
6. 報告撰寫 — 執行摘要與技術發現

路徑 3：進階技術（進階）

適合： 尋求更深技術技能的在職紅隊員 時間： 約 120 小時

1. 進階 LLM 內部 — 激活分析、嵌入向量利用
2. 注入研究 — 盲注入、越獄模糊測試
3. 進階代理式利用 — MCP、多代理、記憶體投毒
4. 訓練管線攻擊 — 架構、預訓練、微調
5. 所有 進階實驗室 — CART 管線、對抗性後綴、護欄串接

路徑 4：多模態專家（進階）

適合： 專精於視覺、音訊與跨模態攻擊的紅隊員 時間： 約 60 小時

1. 視覺-語言模型 — 架構、圖片注入、對抗性圖片
2. 音訊與語音 — 語音辨識、對抗性音訊、聲音複製
3. 影片與時序 — 時序操控、影片理解
4. 跨模態攻擊 — 模態橋接、文件攻擊

路徑 5：治理與計畫建構（混合）

適合： 安全領導者、合規主管、計畫經理 時間： 約 40 小時

1. 法律與倫理 — 授權、國際法、倫理
2. 框架與標準 — OWASP、MITRE ATLAS、NIST、EU AI Act
3. 評估與基準 — 指標、測試框、統計嚴謹性
4. 建構計畫 — 計畫設計與指標

路徑 6：前沿研究（專家）

適合： 推動 AI 安全邊界的研究人員 時間： 約 80 小時

1. 推理模型攻擊 — CoT 利用、思維注入
2. AI 驅動的紅隊演練 — LLM 作為攻擊者、RL 最佳化
3. 電腦使用代理 — GUI 注入
4. 具身 AI — 機器人與物理 AI
5. 所有 專家實驗室 — 量化、獎勵駭入、浮水印移除

相關主題

• AI 紅隊演練速查表 - 紅隊案件的快速參考
• 職涯指南 - 建立 AI 紅隊職涯
• 入門實驗室 - 新手動手練習
• 框架對應參考 - 跨框架合規對應
• 工具比較矩陣 - 選擇合適的紅隊工具

參考文獻

• "AI Red Teaming: Best Practices and Lessons Learned" - Microsoft (2024) - 建構紅隊技能的業界指引
• OWASP AI Security and Privacy Guide - OWASP (2024) - 理解 AI 安全領域的基礎
• "Anthropic's Responsible Scaling Policy" - Anthropic (2023) - 理解 AI 安全評估等級的框架
• NIST AI 600-1 - NIST (2024) - 生成式 AI 的 AI 風險管理概貌