AI 防禦分類

所有 AI 防禦途徑按層、方法與有效性組織之完整分類，提供評估防禦策略之結構化框架。

AI 防禦分類

AI 防禦分類將防禦途徑之完整光譜組織為結構化框架。而非將每個防禦視為隔離技術，分類揭示防禦如何互動、缺口何在，與哪些組合對不同攻擊類別提供有意義保護。

分類概觀

AI 防禦於六個不同層運作，自最外（網路周邊）至最內（模型權重）：

Defense Layers (outer to inner):

Layer 6: Governance & Policy
  └── Responsible use policies, legal frameworks, incident response

Layer 5: Application
  └── Rate limiting, access control, audit logging, API design

Layer 4: Output
  └── Content filtering, PII detection, response validation

Layer 3: Inference
  └── Input sanitization, prompt shields, instruction hierarchy

Layer 2: Training
  └── Safety alignment, adversarial training, data curation

Layer 1: Architecture
  └── Model design, capability restrictions, isolation boundaries

層 1：架構防禦

建入基本系統設計之防禦。

能力限制

模型設計選擇

層 2：訓練時防禦

於模型訓練期間套用之防禦以建立固有穩健度。

安全對齊方法

資料層級防禦

層 3：推論時防禦

於模型推論期間運作於輸入與輸出間之防禦。

輸入處理

推論修改

層 4：輸出防禦

於遞送前處理模型輸出之防禦。

層 5：應用防禦

於 AI 模型周圍之應用層之防禦。

層 6：治理與政策

框架整體安全態勢之非技術防禦。

防禦有效性矩陣

將防禦映射至攻擊類型揭示涵蓋與缺口：

防禦成熟度模型

組織可跨這些層級評估其防禦成熟度：

1. 1

   層級 1：臨時（無系統化防禦）

   無正式 AI 安全控制。模型僅以預設安全訓練部署。對事件反應性回應。

2. 2

   層級 2：基礎（輸入／輸出過濾）

   於輸入與輸出之內容安全分類器。基礎速率限制。某些記錄就位。

3. 3

   層級 3：結構化（多層防禦）

   於多個層之系統化防禦。指令層級被執行。工具權限定義。定期紅隊測試。

4. 4

   層級 4：受管（已量測並監控）

   防禦有效性量化量測。具警報之持續監控。對偵測之攻擊之自動化回應。對新攻擊技術之定期防禦評估。

5. 5

   層級 5：最佳化（適配與預期）

   防禦適配新興威脅。新穎攻擊類別之主動紅隊。縱深防禦配無單一失效點。基於威脅情報之持續改善。

選擇防禦組合

無單一防禦充足。有效保護需選擇互補防禦：

最小可行防禦堆疊

為任何生產 AI 部署：

1. 輸入：指令層級 + 基礎輸入驗證
2. 輸出：內容安全分類器 + PII 偵測
3. 應用：速率限制 + 稽核記錄
4. 治理：事件回應計畫 + 負責任使用政策

增強防禦堆疊

為高風險部署（財務、醫療、政府）：

以上所有，加上：

1. 架構：工具允許清單 + 沙箱化執行 + 脈絡隔離
2. 訓練：對抗訓練 + 紅隊資料增強
3. 推論：提示盾 + SmoothLLM + 啟動監控
4. 應用：工具呼叫核准工作流程 + 會話限制
5. 治理：定期紅隊評估 + 漏洞賞金

相關主題

• 防禦地景 —— 更廣防禦脈絡與演化
• 分層防禦策略 —— 實作縱深防禦
• 防禦評估 —— 量測防禦有效性
• 防禦經濟學 —— 防禦之成本效益分析

參考資料

• OWASP, "Top 10 for Large Language Model Applications"（2024）
• NIST, "AI Risk Management Framework"（2023）
• MITRE, "ATLAS: Adversarial Threat Landscape for AI Systems"（2023）
• Microsoft, "AI Red Team Lessons Learned"（2023）