Autorisatie, contracten & aansprakelijkheid

Rules of engagement, scopedocumenten, aansprakelijkheidsclausules en contractsjablonen voor AI red teaming-opdrachten. Wat op te nemen om jezelf en de klant te beschermen.

Elke legitieme AI red teaming-opdracht begint met papierwerk. De rules of engagement (RoE) is het allerbelangrijkste document in je juridische verdedigingstoolkit. Zonder dit kan zelfs goedbedoeld testen je blootstellen aan strafrechtelijke aansprakelijkheid.

Anatomie van een AI red team-autorisatie

AI red teaming-autorisaties vereisen bepalingen die traditionele penetratietestcontracten niet dekken. De volgende secties moeten in elk opdrachtdocument verschijnen.

Scopedefinitie

Autorisatieketen

De persoon die de autorisatie ondertekent, moet de wettelijke bevoegdheid hebben om toegang te verlenen. Dit is complexer voor AI-systemen dan voor traditionele IT-assets.

1. 1

   Identificeer de systeemeigenaar

   Voor AI-systemen kan dit de organisatie zijn die het model deployt, de modelprovider, of beide. Cloud-gehoste AI-diensten kunnen ook autorisatie van de cloudprovider vereisen.

2. 2

   Verifieer de ondertekeningsbevoegdheid

   Bevestig dat de ondertekenaar bevoegdheid heeft over de specifieke systemen die worden getest. Een VP of Engineering kan API-testen autoriseren maar geen bevoegdheid hebben over de onderliggende cloudinfrastructuur.

3. 3

   Adresseer afhankelijkheden van derden

   Als het AI-systeem gebruikmaakt van API's, modellen of databronnen van derden, bepaal dan of die derden moeten worden geïnformeerd of het testen moeten autoriseren.

4. 4

   Documenteer de autorisatieketen

   Houd een duidelijke registratie bij die laat zien wie wat heeft geautoriseerd, en hun bevoegdheid om dat te doen.

Essentiële contractclausules

Beperking van aansprakelijkheid

Template clause (adapt with legal counsel):
 
"Tester's aggregate liability under this Agreement shall not exceed
the total fees paid under this engagement. In no event shall Tester
be liable for indirect, incidental, or consequential damages arising
from authorized testing activities conducted within the defined scope."

Vrijwaring

Beide partijen moeten elkaar vrijwaren voor claims die voortvloeien uit hun respectievelijke verplichtingen:

• De klant vrijwaart de tester voor claims die voortvloeien uit het verzuim van de klant om relevante systeeminformatie te onthullen, of uit claims van derden met betrekking tot geautoriseerd testen
• De tester vrijwaart de klant voor claims die voortvloeien uit testen buiten de geautoriseerde scope, of uit nalatige omgang met ontdekte kwetsbaarheden

Dataverwerking en vertrouwelijkheid

AI red teaming creëert unieke zorgen rond dataverwerking:

Intellectueel eigendom

Verduidelijk het eigenaarschap van:

• Testtools en -methodologieën: Doorgaans behouden door de tester
• Aangepaste exploits ontwikkeld tijdens de opdracht: Per opdracht onderhandelen
• Bevindingen en rapport: Doorgaans geleverd aan de klant met een licentie voor de tester om er (geanonimiseerd) naar te verwijzen in toekomstig werk
• Ontdekte kwetsbaarheden: De klant bezit de bevinding; de tester behoudt het recht om te onthullen na een afgesproken embargoperiode

Sjabloon voor rules of engagement

Een volledige RoE voor AI red teaming moet deze secties bevatten:

1. 1

   Overzicht van de opdracht

   Partijen, doelstellingen, tijdlijn, primaire contactpersonen, escalatieprocedures.

2. 2

   Scopedefinitie

   Systemen binnen scope, geautoriseerde aanvalscategorieën, items buiten scope, testvensters.

3. 3

   Testmethodologie

   Aanpak (black-box, gray-box, white-box), te gebruiken tools, systeem voor ernstclassificatie.

4. 4

   Communicatieprotocol

   Hoe kritieke bevindingen te rapporteren (noodcontact), reguliere statusupdates, levering van het eindrapport.

5. 5

   Incidentafhandeling

   Wat er gebeurt als testen een storing, datablootstelling of andere onbedoelde impact veroorzaakt. Wie te contacteren, hoe snel en wat te documenteren.

6. 6

   Dataverwerking

   Hoe testdata, modeloutputs en bevindingen worden opgeslagen, verzonden en uiteindelijk vernietigd.

7. 7

   Voltooiingscriteria

   Wat een voltooide opdracht inhoudt. Deliverables, acceptatieproces, ondersteuning na de opdracht.

Contractuele rode vlaggen

Let op deze bepalingen die onaanvaardbaar risico creëren:

AI-specifieke contractoverwegingen

AI red teaming introduceert contractuele kwesties die niet bestaan bij traditioneel beveiligingstesten.

Modelprovider vs. deployer

Bij het testen van een AI-applicatie die gebouwd is op een model van derden (bijv. de klantenservicebot van een bedrijf gebouwd op Claude of GPT-4), moet je het volgende overwegen:

• De deployer autoriseert het testen van hun applicatie
• De Terms of Service van de modelprovider kunnen bepaalde testmethoden beperken
• Kwetsbaarheden kunnen bestaan in het onderliggende model, niet in de applicatielaag

Bepalingen voor schadelijke output

AI red teaming produceert opzettelijk schadelijke outputs. Je contract moet het volgende adresseren:

• Juridische safe harbor voor het genereren van schadelijke inhoud tijdens geautoriseerd testen
• Veilige verwerking en verwijdering van schadelijke outputs
• Geen aansprakelijkheid voor inhoud gegenereerd door het AI-systeem als reactie op testprompts
• Duidelijk onderscheid tussen testartefacten en daadwerkelijke schadelijke intentie

Gerelateerde onderwerpen

• Legal Frameworks for AI Red Teaming -- het juridische landschap dat aan deze contractvereisten ten grondslag ligt
• Ethics & Responsible Disclosure -- ethische verplichtingen die verder reiken dan contractuele
• Insurance & Compliance Requirements -- verzekeringen die contractuele bescherming ondersteunen
• Red Team Metrics Beyond ASR -- metriekkaders waarnaar in opdrachtrapporten wordt verwezen

Referenties

• "Model Contract for AI Penetration Testing" - Cloud Security Alliance (2024) - Template contract provisions for AI security assessments including safe harbor language
• "CREST Code of Conduct for Penetration Testing" - CREST International (2023) - Professional standards and contractual obligations for security testing engagements
• "Legal Considerations for AI Security Testing" - NIST SP 800-218A (2024) - Guidance on legal frameworks applicable to AI system security assessments
• "Professional Liability in AI Security Assessments" - IEEE Security & Privacy (2024) - Analysis of liability exposure and contractual protections for AI red teamers