專家 AI 紅隊實驗室

處理尖端 AI 安全挑戰的進階實驗室，包含量化利用、獎勵駭客、代理利用、多代理攻擊與水印移除。

概覽

這些專家實驗室超越標準的提示詞注入與越獄。每個實驗室鎖定現代 AI 系統中特定的架構弱點——從量化引入的數值不穩定，到多代理編排中浮現的漏洞。

先備知識

• 完成所有中階實驗室
• 熟悉 PyTorch 或 JAX 以進行模型操控
• 理解 RLHF 訓練管線
• 存取 GPU 資源（本地或雲端）供數個實驗室使用
• 至少一個代理框架的經驗（LangChain、AutoGen 或類似）

實驗室索引

是什麼使這些專家級

不像初階與中階實驗室有充分記錄的攻擊模式，專家實驗室要求你：

1. 推理模型內部 — 在架構層級理解攻擊為何有效，不只是它有效
2. 串接多種技術 — 將攻擊原語結合為新穎序列
3. 適應防禦 — 這些目標包含你必須繞過的最新緩解
4. 產出研究品質輸出 — 以安全公告預期的嚴謹度記錄發現

相關主題

• 進階實驗室 - 建構專家級練習所需技能的先備知識
• CTF 挑戰 - 在壓力下結合多種專家技術的競賽式練習
• LLM 內部 - 理解專家實驗室利用的架構漏洞的技術基礎
• AI 利用開發 - 專家級攻擊開發背後的研究方法論

參考文獻

• "Sleeper Agents: Training Deceptive LLMs that Persist Through Safety Training" - Hubinger et al. (2024) - 安全訓練模型中持久架構漏洞的研究
• "Universal and Transferable Adversarial Attacks on Aligned Language Models" - Zou et al. (2023) - 對齊模型中架構攻擊面的基礎工作
• "AI Risk Management Framework" - NIST (2023) - 架構 AI 風險系統性評估的框架
• "Scalable Extraction of Training Data from (Production) Language Models" - Nasr et al. (2023) - 展示深入模型內部知識的專家級萃取