逐步導覽
涵蓋紅隊工具、案件方法論、防禦實作、平台特定測試與完整案件工作流程的逐步引導式導覽。
逐步導覽搭起「理解概念」與「獨立執行」之間的橋樑。課程章節解釋有哪些技術以及為何有效，實驗則挑戰您在極少指引下加以應用；導覽則完全告訴您該怎麼做，一步一步地。它們是在獨立應用前建立信心的引導式練習。
每份導覽遵循一致結構：要做什麼與為何做的脈絡、先備條件與設定、逐步指示附各階段預期輸出、正在發生什麼與為何發生的說明、常見問題與解法，以及如何延伸所學的後續步驟。此結構讓導覽既適合作為首次學習工具，也適合作為您需要複習特定工作流程時回頭查閱的參考。
導覽類別
導覽橫跨五大類別，涵蓋 AI 紅隊演練全光譜的活動。
工具導覽 為 AI 紅隊生態中最重要工具提供動手指南。Garak 涵蓋廣泛，從執行您的首次漏洞掃描、自訂 probe 建立、多模型比較、CI/CD 整合、偵測器自訂、產生器外掛、MCP probe 設定到報告分析。PyRIT 導覽涵蓋 Microsoft 的 AI 紅隊框架，從初始活動設定到進階自動化。Promptfoo 導覽示範安全回歸測試。額外涵蓋的工具包含 Burp Suite AI 擴充、Inspect AI、Counterfit、HarmBench、NeMo Guardrails、用於可觀測性的 Langfuse，以及用於本機模型測試的 Ollama。每份工具導覽帶您從安裝到對實際目標的實務使用。
方法論導覽 為 AI 紅隊演練的營運面提供逐步指引。案前清單確保案件建立時無所遺漏；案件啟動指南組織初始的客戶互動；偵察工作流程導覽示範系統化資訊蒐集；攻擊面對應指南展示如何列舉並排序目標；攻擊執行導覽示範結構化攻擊活動；威脅建模工作坊引導已被促進的威脅評估會議。範圍界定清單、交戰規則樣板、測試計畫開發、證據蒐集方法與高階摘要撰寫皆有具體範例與樣板涵蓋。
防禦實作 導覽展示如何建構與部署紅隊員需理解與繞過的防禦。護欄設定、內容過濾器部署、監控配置、事件回應準備、速率限制、輸入淨化、語意相似度偵測、金絲雀權杖部署、提示詞分類、輸出內容分類、Unicode 正規化、指令階層強制與多層輸入驗證皆附可運作的實作。理解防禦如何建構，能讓您更擅長找出其弱點。
平台導覽 為主要 AI 部署環境提供平台特定指引。AWS Bedrock、Azure OpenAI、Google Vertex AI、HuggingFace、Databricks/MLflow 與其他平台各自有獨特的安全模型、配置選項與測試方法。這些導覽展示如何於各平台特定環境內進行安全評估，並考量平台特有的存取控制、記錄與安全功能。
案件導覽 為常見的 AI 部署類型示範完整評估工作流程。聊天機器人案件導覽涵蓋最常見的評估對象；RAG 案件導覽處理測試檢索增強系統的特定挑戰；代理案件導覽涵蓋具工具存取的代理式系統；API 案件導覽聚焦於直接模型 API 測試；多模型案件導覽處理在多個模型之間路由的系統。每份皆提供從初始偵察到最終報告交付的完整工作流程。
本節內容
- 工具導覽 ——Garak、PyRIT、Promptfoo、Burp Suite AI、Inspect AI、Counterfit、HarmBench、NeMo Guardrails、Langfuse、Ollama 與 Python 自動化框架的逐步指南
- 方法論導覽 ——案件啟動、偵察工作流程、攻擊執行、報告撰寫、案前清單、威脅建模工作坊、範圍界定、交戰規則、測試規劃、證據蒐集與高階摘要撰寫
- 防禦實作 ——護欄設定、監控部署、事件回應準備、內容過濾器配置、速率限制、輸入淨化、金絲雀權杖、提示詞分類器與多層驗證
- 平台導覽 ——AWS Bedrock、Azure OpenAI、Google Vertex AI、HuggingFace、Databricks/MLflow 與其他平台特定評估指南
- 案件導覽 ——聊天機器人、RAG、代理、API 與多模型案件類型的完整評估工作流程
先備知識
導覽的先備條件依類別不同：