方法論導覽

AI 紅隊案件每個階段的逐步導覽：啟動、偵察、攻擊執行與報告撰寫。

AI 紅隊案件不是駭客自由發揮。它是具有定義階段、清晰交付項與專業標準的結構化流程。遵循一致方法論確保全面涵蓋、可重現結果，以及驅動有意義安全改進的報告。

四個階段

每個 AI 紅隊案件遵循四個階段，無論範圍或目標為何：

Kickoff → Reconnaissance → Attack Execution → Reporting

案件類型

方法論調整至不同案件類型：

提示詞層級評估 — 聚焦於提示詞注入、越獄與內容政策繞過。主要使用 promptfoo 與 garak。典型持續時間：1-2 週。

全端 AI 安全評估 — 涵蓋提示詞、API 安全、基礎設施、資料管線與存取控制。使用工具箱中的所有工具。典型持續時間：3-4 週。

代理式系統評估 — 聚焦於函式呼叫、工具使用、多代理互動與自主行為。需要對代理架構的深入理解。典型持續時間：2-3 週。

訓練管線評估 — 評估資料攝取、微調流程、模型產物與部署管線。需要超越模型 API 的環境存取。典型持續時間：3-4 週。

持續紅隊演練 — 整合至開發生命週期的持續評估。CI/CD 整合、定期手動測試與監控。持續時間：持續。

調整至客戶成熟度

你如何執行方法論取決於客戶的安全成熟度：

導覽索引

• 案件啟動 — 初始會議、範圍定義、交戰規則、環境設置
• 偵察工作流程 — 系統提示詞萃取、模型識別、能力描繪、攻擊面分析
• 攻擊執行 — 選擇技術、建構攻擊鏈、即時記錄、證據管理
• 報告撰寫 — 結構、執行摘要、技術發現、風險評級、修復、同儕審查