案例研究
真實世界 AI 安全事件、領域特定案例研究、事件分析報告與平台安全評估，以實務經驗為理論知識奠基。
沒有實務的理論不完整；沒有研究實際失敗的實務則魯莽。本節橋接其他章節涵蓋的攻擊技術與生產環境 AI 安全的混亂現實。此處每份案例研究皆取自真實事件、已發表研究或已記錄的平台評估，呈現的不只是出了什麼錯，還包括為何出錯，以及防禦者可有何不同做法。
研究真實事件對培養成熟的紅隊判斷力至關重要。教科書上的攻擊技術在受控環境中有效，但生產系統呈現未預期的複雜度：部分緩解攻擊的多層防禦、建立新穎攻擊面的商業邏輯，以及從典範到災難性的組織反應。理解這些動態，正是漏洞掃描器與熟練紅隊操作者的分別。
為何案例研究對紅隊演練重要
AI 安全版圖快速演進。新模型架構、部署模式與整合框架建立出數月前不存在的攻擊面。案例研究作為本領域的組織記憶——它們捕捉可能在團隊轉移到新專案時失散的硬得教訓。
對紅隊員特別有三項關鍵益處。首先，它們校準對真實世界影響樣貌的期待——理論漏洞與生產事件的差別，常取決於唯有案例研究分析才會顯現的環境因素。其次，它們揭示在不同組織與平台中反覆出現的常見失敗模式——一旦您認出這些模式，就能主動測試，而非被動發現。第三，它們為您的報告建議提供具體證據——引用相關事件能讓您的發現對利害關係人更可信、更可行動。
事件類別
本節案例研究橫跨數個類別，各為 AI 安全實務者提供不同教訓。
已記錄事件 涵蓋公開報導的 AI 安全失敗，從由 Redis 快取 bug 所致的 ChatGPT 資料外洩，到揭示對話式 AI 多麼容易被操控而產出有害輸出的 Bing Sydney 越獄。這些事件顯示 AI 安全失敗常起源於傳統基礎設施而非模型層級漏洞，且組織反應與技術修補同等重要。
事件分析 對特定事件提供深入鑑識檢視，包含導致法律責任的 Air Canada 聊天機器人案、透過 ChatGPT 的 Samsung 程式碼外洩，以及 DPD 聊天機器人事件。每份分析遵循結構化格式：時間軸重建、根因辨識、影響評估與學得教訓。
領域特定研究 檢視 AI 安全挑戰如何在不同產業中有不同呈現。醫療 AI 系統面臨病患資料與臨床決策支援的獨特限制；金融 AI 必須應對法規要求與對抗性市場操控；客戶服務部署在強大時間壓力下處理敏感帳戶資訊。每個領域都建立了通用安全方法無法充分應對的獨特威脅版圖。
平台評估 評估主要 AI 部署平台與整合框架的安全姿態，包含雲端 ML 服務、LangChain 與 LlamaIndex 生態系、API 供應商安全模型，以及外掛／擴充架構。
本節您將學到
- 事件與報告 ——已記錄的紅隊報告、漏洞賞金發現，以及從生產 AI 安全事件學得的教訓
- 事件分析 ——主要 AI 安全事件的深入鑑識分析，包含 ChatGPT 資料外洩、Bing Sydney 越獄、Air Canada 聊天機器人裁決、Samsung 程式碼外洩與 DPD 聊天機器人失敗
- 領域特定安全 ——醫療、金融、客戶服務、自駕車、教育、內容審核、臉部辨識、深偽與招聘 AI 偏見中的 AI 安全挑戰
- 整合與平台安全 ——雲端 ML 平台、LangChain/LlamaIndex 框架、API 供應商架構與外掛／擴充生態系的安全評估
先備知識
案例研究對各經驗層級皆可讀，但若有以下背景您會獲益更多：