Referentie voor framework-mapping
Gemiddeld4 min lezenBijgewerkt op 2026-03-13
Cross-mapping tussen OWASP LLM Top 10, MITRE ATLAS, NIST AI RMF en EU AI Act-vereisten voor AI-beveiligingsbeoordelingen.
OWASP LLM Top 10 → MITRE ATLAS-mapping
| OWASP LLM Top 10 (2025) | MITRE ATLAS-technieken | Omschrijving |
|---|---|---|
| LLM01: Prompt Injection | AML.T0051 (LLM Prompt Injection) | Directe en indirecte injectie van instructies |
| LLM02: Insecure Output Handling | AML.T0048.005 (Command Injection via AI) | Niet-gevalideerde LLM-output gebruikt in downstream-systemen |
| LLM03: Training Data Poisoning | AML.T0020 (Poison Training Data) | Manipulatie van trainingsdatasets |
| LLM04: Model Denial of Service | AML.T0029 (Denial of ML Service) | Aanvallen die resources uitputten op modellen |
| LLM05: Supply Chain Vulnerabilities | AML.T0010 (ML Supply Chain Compromise) | Gecompromitteerde modellen, libraries of datasets |
| LLM06: Sensitive Information Disclosure | AML.T0024 (Exfiltration via ML Inference) | Modelmemorisatie en data-extractie |
| LLM07: Insecure Plugin Design | AML.T0051.001 (Tool Manipulation) | Onveilige tool-/plugin-interfaces |
| LLM08: Excessive Agency | AML.T0048 (Command & Control via AI) | Overgeprivilegieerde AI-agents |
| LLM09: Overreliance | -- | Te veel menselijk vertrouwen in AI-output |
| LLM10: Model Theft | AML.T0024.001 (Model Extraction) | Modelgewichten of -functionaliteit stelen |
NIST AI RMF → red team-testgebieden
| NIST AI RMF-functie | Focus van red team-testen | Belangrijkste beoordelingen |
|---|---|---|
| GOVERN | Toetsing van beleid en processen | Autorisatieframeworks, openbaarmakingsbeleid |
| MAP | Identificatie van aanvalsoppervlak | Toetsing van systeemarchitectuur, dreigingsmodellering |
| MEASURE | Kwantitatieve beveiligingstests | ASR-metrics, bypass-percentages, dekkingsanalyse |
| MANAGE | Verificatie van mitigatie | Effectiviteit van verdediging, incidentrespons |
EU AI Act → beoordelingsvereisten
| EU AI Act-vereiste | Red team-beoordeling |
|---|---|
| Art. 9: Risk Management | Dreigingsmodellering en aanvalsoppervlakanalyse |
| Art. 10: Data Governance | Beoordeling van vergiftiging van trainingsdata |
| Art. 15: Accuracy & Robustness | Adversarial robuustheidstesten |
| Art. 62: Serious Incident Reporting | Incidentsimulatie en responstesten |
| Art. 52: Transparency | Extractie van system prompts en outputtoeschrijving |
Snelle referentie: aanval → framework-ID
| Aanvalstechniek | OWASP | MITRE ATLAS | NIST CSF |
|---|---|---|---|
| Directe prompt injection | LLM01 | AML.T0051 | DE.AE-2 |
| Indirecte prompt injection | LLM01 | AML.T0051.002 | DE.AE-2 |
| Jailbreaken | LLM01 | AML.T0054 | PR.AC-4 |
| Data-extractie | LLM06 | AML.T0024 | PR.DS-5 |
| Vergiftiging van trainingsdata | LLM03 | AML.T0020 | PR.DS-6 |
| Modelextractie | LLM10 | AML.T0024.001 | PR.IP-1 |
| Tool-/plugin-misbruik | LLM07 | AML.T0051.001 | PR.AC-4 |
| Misbruik van agents | LLM08 | AML.T0048 | PR.AC-1 |
| Supply chain-aanval | LLM05 | AML.T0010 | ID.SC-2 |
Verwante onderwerpen
- OWASP LLM Top 10 -- Gedetailleerde OWASP-analyse
- MITRE ATLAS -- ATLAS-techniekdatabase
- NIST AI RMF -- Risk management framework
Referenties
- OWASP LLM Top 10 (2025) - OWASP Foundation - Taxonomie van kwetsbaarheden in LLM-applicaties
- MITRE ATLAS - MITRE Corporation (2024) - Adversarial threat landscape voor artificiële-intelligentiesystemen
- NIST AI Risk Management Framework (AI RMF 1.0) - NIST (2023) - Governance-framework voor AI-risicomanagement
- EU AI Act - Europees Parlement (2024) - Verordening over risicocategorieën en vereisten voor artificiële intelligentie
Knowledge Check
Waarom moeten red team-rapporten naar meerdere frameworks verwijzen in plaats van naar slechts één?