Escalatiepaden voor AI-incidenten
Wanneer en hoe AI-beveiligingsincidenten te escaleren: interne escalatieniveaus, externe meldingsverplichtingen, vereisten voor regelgevende kennisgeving, en procedures voor coördinatie met leveranciers.
Escalatiepaden voor AI-incidenten
Escalatiebeslissingen bij AI-incidenten dragen gevolgen met zich mee die niet bestaan in traditionele IR. Een jailbreak-incident kan AI-specifieke regelgevende verplichtingen activeren. Een modelcompromittering kan leveranciersmelding vereisen. Data die via de uitvoer van een model lekt, kan onder meldingswetten voor datalekken vallen, ook al is er in traditionele zin geen database geschonden. Deze pagina definieert wanneer en hoe te escaleren over interne en externe grenzen heen.
Raamwerk voor interne escalatie
Escalatieniveaus
Interne escalatie volgt een gelaagde structuur. Elk niveau voegt beslissingsbevoegdheid, middelen en communicatiereikwijdte toe.
| Niveau | Wie | Geactiveerd wanneer | Bevoegdheid |
|---|---|---|---|
| Niveau 0: On-Call | AI/ML on-call-engineer | Elke waarschuwing of melding | Triage, initiële inperking, bewijsbehoud |
| Niveau 1: IR-team | Toegewijd incidentresponsteam | Ernst gemiddeld of hoger | Volledig onderzoek, inperkingsbeslissingen, communicatie met belanghebbenden |
| Niveau 2: AI Security Lead | Senior AI-beveiligingsengineer of -manager | Ernst hoog of hoger, of nieuw aanvalstype | Strategische beslissingen, toewijzing van middelen, teamoverstijgende coördinatie |
| Niveau 3: Executive / CISO | CISO, VP Engineering, Legal | Ernst kritiek, datalek, regelgevende trigger, openbaarmaking | Organisatiebrede respons, externe communicatie, juridische beslissingen |
| Niveau 4: Crisismanagement | Directieteam, PR, Legal, Bestuur | Risico voor de openbare veiligheid, regelgevend onderzoek, media-aandacht | Bedrijfsbrede respons, openbare verklaringen, bestuurmelding |
Escalatietriggers per incidentcategorie
Elke incidentcategorie heeft specifieke triggers die escalatie naar hogere niveaus voorschrijven.
| Categorie | Niveau 1-trigger | Niveau 2-trigger | Niveau 3+-trigger |
|---|---|---|---|
| Jailbreak | Bevestigde bypass van veiligheidscontroles | Systemische kwetsbaarheid die alle gebruikers treft | Model produceert inhoud die schade in de echte wereld veroorzaakt |
| Datalek | Elke bevestigde openbaarmaking van gevoelige data | PII of gereguleerde data blootgesteld | Drempel voor melding van datalek bereikt |
| Modelmanipulatie | Bevestigde gedragsafwijking van de baseline | Bewijs van opzettelijke manipulatie | Compromittering van de toeleveringsketen die meerdere producten treft |
| Toeleveringsketen | Gecompromitteerd extern component geïdentificeerd | Actieve exploitatie van een gecompromitteerd component | Wijdverspreide impact in de hele sector |
| Vijandige aanval | Bevestigde bypass van veiligheidsclassifiers | Nieuwe aanvalstechniek met brede toepasbaarheid | Actieve aanvaller met aangetoonde capaciteit |
| Misbruik | Beleidsschending bevestigd | Regelgevingsschending geïdentificeerd | Juridische blootstelling of betrokkenheid van wetshandhaving |
Sjabloon voor escalatiecommunicatie
Lever bij escalatie gestructureerde informatie waarmee het volgende niveau beslissingen kan nemen zonder opnieuw te onderzoeken.
## Escalation Notice
**Incident ID:** AI-IR-2026-0042
**Current Severity:** High (Score: 15/20)
**Escalation From:** Tier 1 (IR Team)
**Escalation To:** Tier 2 (AI Security Lead)
**Escalation Reason:** Novel jailbreak technique with systemic applicability
### Summary
[2-3 sentences describing what happened]
### Current Status
- **Detection Time:** 2026-03-15T14:32:07Z
- **Containment Status:** [Contained / Partially contained / Not contained]
- **Evidence Preserved:** [Yes / Partial / No]
- **Active Exploitation:** [Yes / No / Unknown]
### Impact Assessment
- **Users Affected:** [Count or estimate]
- **Data Exposed:** [Description or "None confirmed"]
- **Downstream Effects:** [Description or "None identified"]
### Actions Taken
1. [Action with timestamp]
2. [Action with timestamp]
### Decision Needed
[What you need from the next tier]Externe escalatie
Regelgevende kennisgeving
AI-incidenten kunnen meldingsverplichtingen onder meerdere regelgevingsraamwerken activeren. De belangrijkste uitdaging is dat veel van deze raamwerken zijn geschreven voordat AI-systemen gangbaar waren, en dat hun toepasbaarheid op AI-incidenten soms dubbelzinnig is.
| Regelgeving | Trigger voor AI-incidenten | Meldingstermijn | Ontvanger |
|---|---|---|---|
| EU AI Act | Incident met een AI-systeem met hoog risico dat schade of een ernstig incident veroorzaakt | Zonder onnodige vertraging, binnen 15 dagen | Nationale bevoegde autoriteit |
| GDPR | Persoonsgegevens blootgesteld via modeluitvoer | 72 uur vanaf bekendwording | Toezichthoudende autoriteit + getroffen individuen |
| CCPA/CPRA | PII van inwoner van Californië blootgesteld | "Voortvarende" melding | California AG + getroffen individuen |
| HIPAA | Beschermde gezondheidsinformatie in modeluitvoer | 60 dagen | HHS OCR + getroffen individuen |
| SEC-cyberbeveiligingsregels | Materieel cyberbeveiligingsincident | 4 werkdagen (Form 8-K) | SEC |
| NIS2-richtlijn | Significant incident bij een essentiële/belangrijke entiteit | 24u vroegtijdige waarschuwing, 72u melding | Nationale CSIRT |
Bepalen of melding vereist is
Identificeer de betrokken data
Bepaal precies welke data is blootgesteld. Was het PII, PHI, financiële data of bedrijfsgeheimen? Het datatype bepaalt welke regelgeving van toepassing is.
Bepaal de betrokkenen
Identificeer wiens data is blootgesteld en hun jurisdictie. De GDPR is van toepassing op EU-betrokkenen, ongeacht waar je bedrijf gevestigd is.
Beoordeel de omvang van de blootstelling
Bepaal hoeveel records, hoeveel individuen, en of de data is blootgesteld aan een individuele aanvaller, een groep of het publiek.
Raadpleeg juridisch advies
Beslissingen over regelgevende kennisgeving moeten altijd juridisch advies omvatten. Voorzie hen van de dataclassificatie, omvang van de blootstelling en tijdlijn zodat ze de meldingsbepaling kunnen maken.
Documenteer de beslissing
Of je nu meldt of bepaalt dat melding niet vereist is, documenteer de analyse en redenering. Toezichthouders zullen vragen waarom je wel of niet hebt gemeld.
Coördinatie met leveranciers
Wanneer het incident een extern model, API of dienst betreft, wordt coördinatie met de leverancier een kritiek escalatiepad.
| Rol van leverancier | Wanneer te betrekken | Wat te leveren | Wat te verzoeken |
|---|---|---|---|
| Modelaanbieder (OpenAI, Anthropic, Google, enz.) | Kwetsbaarheid in het basismodel; jailbreak die de veiligheidstraining van de aanbieder treft | Aanvalsmethodologie, succespercentage, bewijs van impact | Tijdlijn voor fix, tussentijdse mitigatierichtlijnen, delen van IoC's |
| Hostingplatform (AWS, Azure, GCP) | Kwetsbaarheid op infrastructuurniveau; containercompromittering | Deploymentconfiguratie, getroffen resources, tijdlijn | Inperking op platformniveau, forensische data, incidentcoördinatie |
| Frameworkleverancier (LangChain, LlamaIndex, enz.) | Kwetsbaarheid in de frameworkcode | Reproductiestappen, getroffen versies, bewijs van exploitatie | Tijdlijn voor beveiligingspatch, coördinatie van kwetsbaarheidsmelding |
| Fine-tuning-aanbieder | Gecompromitteerde fine-tuning-job of dataset | Herkomst van trainingsdata, job-ID's, waargenomen gedragsveranderingen | Audit van trainingsdata, integriteitsverificatie van de job |
Gecoördineerde kwetsbaarheidsmelding
Als het incident een kwetsbaarheid in een extern model of framework onthult, gelden de praktijken voor verantwoorde openbaarmaking.
| Fase | Actie | Tijdlijn |
|---|---|---|
| Ontdekking | Documenteer de kwetsbaarheid met reproductiestappen en impactbeoordeling | Onmiddellijk |
| Initiële melding | Neem contact op met het beveiligingsteam van de leverancier via gevestigde kanalen | Binnen 24 uur |
| Coördinatie | Werk met de leverancier aan een fix en tijdlijn voor openbaarmaking | Doorgaans 90 dagen |
| Openbaarmaking | Publiceer details nadat de leverancier een fix heeft uitgebracht | Volgens overeengekomen tijdlijn |
Gecoördineerde kwetsbaarheidsmelding beschermt de bredere gemeenschap en geeft leveranciers tegelijkertijd tijd om het probleem aan te pakken.
Anti-patronen bij escalatie
Vermijd deze veelvoorkomende escalatiefouten:
| Anti-patroon | Probleem | Betere aanpak |
|---|---|---|
| Stilletjes oplossen zonder escaleren | Geen audittraject; als het opnieuw gebeurt, weet niemand dat het eerder is gebeurd | Documenteer en escaleer, zelfs als je het onmiddellijk oplost |
| Escaleren zonder context | Hogere niveaus verspillen tijd met opnieuw onderzoeken | Gebruik het escalatiesjabloon om gestructureerde informatie te leveren |
| Wachten op volledige informatie | Vertragingen kunnen de schade vergroten en meldingstermijnen overschrijden | Escaleer met wat je weet; werk bij naarmate je meer leert |
| Naar iedereen escaleren | Diffusie van verantwoordelijkheid; niemand bezit de respons | Escaleer naar het specifieke volgende niveau met een duidelijk beslissingsverzoek |
| Voortijdig de-escaleren | Het incident kan erger zijn dan de initiële beoordeling suggereert | Handhaaf het escalatieniveau totdat het onderzoek de omvang bevestigt |
Documentatievereisten voor escalatie
Elke escalatiebeslissing moet worden gedocumenteerd voor audit- en juridische doeleinden.
| Document | Inhoud | Bewaring |
|---|---|---|
| Escalatielog | Wie naar wie escaleerde, wanneer, waarom, en wat er werd gecommuniceerd | Minimaal 3 jaar of volgens regelgevende vereiste |
| Beslissingsregister | Beslissingen genomen op elk niveau en hun rechtvaardiging | Minimaal 3 jaar |
| Meldingsregister | Verzonden regelgevende meldingen, aan wie, wanneer, en de inhoud | Volgens regelgevende vereiste (doorgaans 5+ jaar) |
| Leverancierscommunicatie | Alle communicatie met leveranciers met betrekking tot het incident | Minimaal 3 jaar |
Gerelateerde onderwerpen
- Ernstkader -- ernstscores die escalatiebeslissingen aansturen
- Triageprocedures -- initiële triage voorafgaand aan escalatie
- Governance, Legal & Compliance -- regelgevingslandschap voor AI-systemen
- Bewijsbehoud -- bewijs behouden voor en tijdens escalatie
Referenties
- "EU Artificial Intelligence Act" - European Parliament (2024) - AI-specific regulatory obligations for incident reporting
- "NIST SP 800-61 Rev. 3" - NIST (2024) - Incident escalation and communication frameworks
- "SEC Cybersecurity Disclosure Rules" - U.S. Securities and Exchange Commission (2024) - Material incident disclosure requirements
- "Coordinated Vulnerability Disclosure Guidelines" - CERT/CC (2024) - Responsible disclosure practices for security vulnerabilities
Een AI-chatbot lekt persoonsgegevens van EU-inwoners via zijn uitvoer, maar er is geen database rechtstreeks geschonden. Is GDPR-melding van toepassing?