進階 AI 紅隊實驗室

進階動手實驗室，涵蓋自動化攻擊演算法、正式環境紅隊工具、多模型測試以及針對資深 AI 安全從業者的精密利用技術。

進階實驗室概覽

進階軌道超越個別攻擊手法，進入 自動化攻擊系統、正式環境等級工具 以及 特定模型的利用。這些實驗室要求你建構完整的管線、實作研究等級演算法，並同時針對多個模型進行測試。

先備條件

開始這些實驗室前，你應該已完成：

• 所有 初階實驗室 ——尤其是測試骨架（Lab 4）與 API 測試（Lab 6）
• 熟悉 中階實驗室 的概念——多步驟攻擊、間接注入
• 能從容閱讀與修改 Python async 程式碼
• 至少擁有兩個不同 LLM 供應商的 API 存取權

實驗室目錄

自動化攻擊演算法

這些實驗室實作近年研究中最前沿的攻擊演算法：

正式環境工具

建構專業紅隊所仰賴的基礎設施：

特定模型的利用

針對特定模型架構與模態的攻擊技術：

防禦繞過與後門

繞過多層防禦並植入持久性漏洞的技術：

推薦路徑

適合建構紅隊基礎設施的從業者：

1. Custom Harness ——打造你的測試地基
2. Multi-Model Testing ——延伸至比較分析
3. PAIR Attack ——加入自動化攻擊生成
4. CART Pipeline ——部署持續性測試

適合探索前沿攻擊技術的研究者：

1. PAIR Attack ——實作奠基演算法
2. TAP Algorithm ——探索樹狀搜尋
3. Adversarial Suffixes ——基於梯度的攻擊
4. Training Data Extraction ——隱私攻擊

適合需要透過理解攻擊來打造更佳防禦的從業者：

1. Guardrail Bypass Chain ——理解防禦破口
2. PAIR Attack ——觀察自動化攻擊如何探測防禦
3. Fine-Tune Backdoor ——供應鏈風險
4. CART Pipeline ——建立防禦性監控

接下來

完成進階軌道後，你已具備能力進入：

• Expert Labs ——RLHF 獎勵駭客、量化利用、多代理戰爭
• CTF Challenges ——結合多種技術的競賽式練習
• Full Engagement Simulations ——針對擬真目標的端到端紅隊演練模擬

相關主題

• Intermediate Labs - 先備實驗室，建立進階練習所需技能
• Expert Labs - 研究導向紅隊從業者的下一階段
• CTF Challenges - 在壓力下檢驗進階技術的競賽式練習
• Red Team Methodology - 進階自動化在規模上實作的方法論框架

參考資料

• "PAIR: Prompt Automatic Iterative Refinement" - Chao et al. (2023) - PAIR 攻擊實驗室中實作的自動化攻擊演算法
• "Tree of Attacks: Jailbreaking Black-Box LLMs with Auto-Regressive Pruning" - Mehrotra et al. (2023) - TAP 實驗室中實作的 TAP 演算法
• "Universal and Transferable Adversarial Attacks on Aligned Language Models" - Zou et al. (2023) - 用於對抗性後綴生成的 GCG 演算法
• "AI Risk Management Framework" - NIST (2023) - 用於系統性 AI 風險評估的框架，指引進階管線設計