框架對應參考
中級3 分鐘閱讀更新於 2026-03-13
OWASP LLM Top 10、MITRE ATLAS、NIST AI RMF 與 EU AI Act 要求之間的交叉對應，用於 AI 安全評估。
OWASP LLM Top 10 → MITRE ATLAS 對應
| OWASP LLM Top 10 (2025) | MITRE ATLAS 技術 | 描述 |
|---|---|---|
| LLM01: 提示詞注入 | AML.T0051（LLM 提示詞注入） | 指令的直接與間接注入 |
| LLM02: 不安全的輸出處理 | AML.T0048.005（透過 AI 的命令注入） | 未驗證的 LLM 輸出用於下游系統 |
| LLM03: 訓練資料投毒 | AML.T0020（投毒訓練資料） | 訓練資料集的操控 |
| LLM04: 模型阻斷服務 | AML.T0029（ML 服務阻斷） | 對模型的資源耗盡攻擊 |
| LLM05: 供應鏈漏洞 | AML.T0010（ML 供應鏈入侵） | 被入侵的模型、函式庫或資料集 |
| LLM06: 敏感資訊揭露 | AML.T0024（透過 ML 推論外洩） | 模型記憶與資料萃取 |
| LLM07: 不安全的外掛設計 | AML.T0051.001（工具操控） | 不安全的工具/外掛介面 |
| LLM08: 過度代理權限 | AML.T0048（透過 AI 的命令與控制） | 過度權限的 AI 代理 |
| LLM09: 過度依賴 | -- | 人類對 AI 輸出的過度信任 |
| LLM10: 模型竊取 | AML.T0024.001（模型萃取） | 竊取模型權重或功能 |
NIST AI RMF → 紅隊測試領域
| NIST AI RMF 功能 | 紅隊測試聚焦 | 關鍵評估 |
|---|---|---|
| GOVERN | 政策與流程審查 | 授權框架、揭露政策 |
| MAP | 攻擊面識別 | 系統架構審查、威脅建模 |
| MEASURE | 量化安全測試 | ASR 指標、繞過率、涵蓋分析 |
| MANAGE | 修復驗證 | 防禦有效性、事件回應 |
EU AI Act → 評估要求
| EU AI Act 要求 | 紅隊評估 |
|---|---|
| 第 9 條：風險管理 | 威脅建模與攻擊面分析 |
| 第 10 條：資料治理 | 訓練資料投毒評估 |
| 第 15 條：準確性與穩健性 | 對抗性穩健性測試 |
| 第 62 條：嚴重事件通報 | 事件模擬與回應測試 |
| 第 52 條：透明度 | 系統提示詞萃取與輸出歸因 |
快速參考：攻擊 → 框架 ID
| 攻擊技術 | OWASP | MITRE ATLAS | NIST CSF |
|---|---|---|---|
| 直接提示詞注入 | LLM01 | AML.T0051 | DE.AE-2 |
| 間接提示詞注入 | LLM01 | AML.T0051.002 | DE.AE-2 |
| 越獄 | LLM01 | AML.T0054 | PR.AC-4 |
| 資料萃取 | LLM06 | AML.T0024 | PR.DS-5 |
| 訓練資料投毒 | LLM03 | AML.T0020 | PR.DS-6 |
| 模型萃取 | LLM10 | AML.T0024.001 | PR.IP-1 |
| 工具/外掛濫用 | LLM07 | AML.T0051.001 | PR.AC-4 |
| 代理利用 | LLM08 | AML.T0048 | PR.AC-1 |
| 供應鏈攻擊 | LLM05 | AML.T0010 | ID.SC-2 |
相關主題
- OWASP LLM Top 10 — 詳細 OWASP 分析
- MITRE ATLAS — ATLAS 技術資料庫
- NIST AI RMF — 風險管理框架
參考文獻
- OWASP LLM Top 10 (2025) - OWASP Foundation - 大型語言模型應用程式漏洞分類
- MITRE ATLAS - MITRE Corporation (2024) - 人工智慧系統的對抗性威脅景觀
- NIST AI Risk Management Framework (AI RMF 1.0) - NIST (2023) - AI 風險管理治理框架
- EU AI Act - European Parliament (2024) - 關於人工智慧風險類別與要求的法規
Knowledge Check
為何紅隊報告應參考多個框架而非僅一個？