AI-regulering in China
Gevorderd12 min lezenBijgewerkt op 2026-03-15
Het regelgevingskader voor AI in China, inclusief regels voor aanbevelingsalgoritmen, bepalingen rond deep synthesis, maatregelen voor generatieve AI en nalevingsvereisten voor wereldwijde bedrijven die actief zijn in of diensten leveren aan de Chinese markt.
China heeft een van de meest uitgebreide en snel evoluerende AI-regelgevingskaders ter wereld ontwikkeld. Anders dan de EU met haar aanpak op basis van één instrument (de EU AI Act) of de gefragmenteerde aanpak op staatsniveau in de VS, heeft China meerdere gerichte regelingen ingevoerd die specifieke AI-toepassingen aanpakken. Voor red teamers die met wereldwijde organisaties werken, is begrip van de Chinese AI-regelgeving essentieel, omdat niet-naleving kan leiden tot dienstverboden, boetes en strafrechtelijke aansprakelijkheid voor verantwoordelijke individuen.
Overzicht van het regelgevingskader
De AI-regelgeving van China vormt een gelaagd systeem, waarbij elke laag specifieke AI-mogelijkheden aanpakt:
| Regeling | Ingangsdatum | Reikwijdte | Handhavende autoriteit |
|---|---|---|---|
| Bepalingen voor Aanbevelingsalgoritmen | Maart 2022 | Aanbevelingsalgoritmen die gebruikersgedrag beïnvloeden | CAC |
| Deep Synthesis-bepalingen | Januari 2023 | Door AI gegenereerde of aangepaste content (deepfakes, synthetische media) | CAC |
| Maatregelen voor Generatieve AI | Augustus 2023 | Generatieve AI-diensten die in China aan het publiek worden aangeboden | CAC, samen met MIIT, MPS en andere instanties |
| AI Safety Governance Framework | September 2024 (v1.0) | Uitgebreide AI-veiligheidsnormen (niet-bindend, aspiratief) | TC260 (National Information Security Standardization Technical Committee) |
| Personal Information Protection Law (PIPL) | November 2021 | Verwerking van persoonsgegevens, ook door AI-systemen | CAC |
Hiërarchische relatie
┌──────────────────────────────────────────┐
│ Cybersecurity Law (2017) │
│ Data Security Law (2021) │
│ PIPL (2021) │
│ (Foundation data & security laws) │
├──────────────────────────────────────────┤
│ Algorithmic Recommendation Provisions │
│ Deep Synthesis Provisions │
│ Generative AI Measures │
│ (AI-specific implementing regulations) │
├──────────────────────────────────────────┤
│ AI Safety Governance Framework │
│ National Standards (TC260) │
│ (Technical standards & guidance) │
└──────────────────────────────────────────┘
Bepalingen voor Aanbevelingsalgoritmen
De Internet Information Service Algorithmic Recommendation Management Provisions zijn gericht op elke dienst die algoritmen gebruikt om content, producten of informatie aan gebruikers aan te bevelen.
Belangrijkste vereisten
| Vereiste | Beschrijving | Red team-testen |
|---|---|---|
| Algoritmeregistratie | Algoritmen moeten via het Algorithm Filing System bij de CAC worden geregistreerd | Verifieer de nalevingsdocumentatie |
| Gebruikerscontrole | Gebruikers moeten opties krijgen om algoritmische aanbevelingen uit te zetten | Test of opt-outmechanismen aanbevelingen daadwerkelijk uitschakelen |
| Transparantie | De basisprincipes, het doel en de belangrijkste werkingsmechanismen van algoritmen moeten worden bekendgemaakt | Verifieer of de bekendmakingen het werkelijke gedrag van het algoritme correct beschrijven |
| Geen verslaving | Algoritmen mogen niet worden gebruikt om gebruikersverslaving of excessieve consumptie aan te wakkeren | Beoordeel of engagement-optimalisatie de regelgevingsgrenzen overschrijdt |
| Geen prijsdiscriminatie | Algoritmen mogen niet worden gebruikt voor onredelijke prijsdifferentiatie | Test of verschillende gebruikersprofielen verschillende prijzen krijgen voor dezelfde dienst |
| Contentbeheer | Algoritmen mogen niet worden gebruikt om informatie te promoten die wetten of maatschappelijke normen schendt | Test de grenzen van contentaanbevelingen en de effectiviteit van filtering |
Red team-beoordeling voor aanbevelingsalgoritmen
| Testcategorie | Methodologie | Regelgevingsvereiste |
|---|---|---|
| Analyse van gebruikersprofilering | Analyseer hoe het algoritme gebruikers categoriseert en of beschermde kenmerken aanbevelingen beïnvloeden | Anti-discriminatie, PIPL-dataminimalisatie |
| Effectiviteit van opt-out | Verifieer dat het uitschakelen van aanbevelingen de algoritmische invloed daadwerkelijk wegneemt | Vereisten voor gebruikerscontrole |
| Beoordeling van filter bubbles | Test of het algoritme informatie-echokamers creëert | Vereisten voor contentdiversiteit |
| Detectie van prijsdiscriminatie | Vergelijk prijzen tussen verschillende gebruikersprofielen | Anti-prijsdiscriminatie |
| Bescherming van minderjarigen | Test of leeftijdsgerelateerde beschermingen in aanbevelingen worden afgedwongen | Vereisten voor bescherming van minderjarigen |
Deep Synthesis-bepalingen
De Deep Synthesis-bepalingen reguleren AI-technologieën die tekst, afbeeldingen, audio, video en virtuele scènes genereren of aanpassen, inclusief deepfakes en andere synthetische media.
Kernvereisten
| Vereiste | Reikwijdte | Implementatie |
|---|---|---|
| Labeling | Alle deep synthesis-content moet worden voorzien van opvallende markeringen | Technische watermerken en zichtbare labels vereist |
| Echte identiteit | Gebruikers van deep synthesis-diensten moeten zich registreren met echte identiteitsgegevens | Identiteitsverificatie vóór toegang tot de dienst |
| Contentbeoordeling | Aanbieders moeten gegenereerde content beoordelen vóór openbare verspreiding | Geautomatiseerde en handmatige contentbeoordelingssystemen |
| Verboden content | Er mag geen content worden gegenereerd die de nationale veiligheid, sociale stabiliteit of het openbaar belang bedreigt | Contentfiltering en veiligheidsmechanismen |
| Gegevensverwerking | Er moeten gegevensbeheerprotocollen worden ingesteld voor trainingsdata en gegenereerde content | Gegevensgovernance- en bewaarbeleid |
| Incidentrespons | Er moeten mechanismen zijn om illegale synthetische content te detecteren en erop te reageren | Monitoring- en takedown-procedures |
Red team-testen voor naleving van deep synthesis
| Testgebied | Beschrijving | Verwachte controles |
|---|---|---|
| Robuustheid van watermerken | Probeer deep synthesis-watermerken te verwijderen of aan te passen via beeld-/videobewerking | Robuuste watermerken die bestand zijn tegen gangbare transformatie-aanvallen |
| Label-omzeiling | Test of synthetische content kan worden gegenereerd zonder de vereiste labels | Verplichte labeling toegepast op het moment van generatie |
| Omzeiling van identiteitsverificatie | Probeer deep synthesis-diensten te gebruiken zonder correcte identiteitsverificatie | Sterke identiteitsverificatie vóór toegang |
| Generatie van verboden content | Test of het systeem kan worden gemanipuleerd om verboden contentcategorieën te genereren | Contentfiltering voor politiek gevoelige, gewelddadige of destabiliserende content |
| Herkomst van gegevens | Verifieer de bronnen van trainingsdata en of er toestemming is verkregen | Gedocumenteerde gegevensherkomst met toestemmingsregistraties |
Maatregelen voor Generatieve AI
De Interim Administrative Measures for Generative AI Services zijn de meest direct relevante regeling voor organisaties die LLM's en andere generatieve AI-systemen inzetten.
Belangrijkste bepalingen
| Bepaling | Vereiste | Relevantie voor red team |
|---|---|---|
| Socialistische kernwaarden | GenAI-content moet de socialistische kernwaarden naleven en de staatsmacht niet ondermijnen | Test contentfiltering voor politiek gevoelige onderwerpen |
| Wettigheid van trainingsdata | Trainingsdata moeten rechtmatig zijn verkregen, met passende bescherming van IP en privacy | Audit de herkomst van trainingsdata en toestemming |
| Nauwkeurigheid van content | Er moeten maatregelen worden genomen om de nauwkeurigheid van gegenereerde content te verbeteren | Hallucinatietesten, beoordeling van feitelijke nauwkeurigheid |
| Veiligheidsbeoordeling | Er moeten beveiligingsbeoordelingen worden uitgevoerd vóór openbare lancering | Beveiligingstesten vóór inzet (red teaming) |
| Algoritmeregistratie | Algoritmen moeten bij de CAC worden geregistreerd | Verificatie van documentatie en registratie |
| Klachtmechanismen voor gebruikers | Er moeten kanalen zijn voor klachten van gebruikers over gegenereerde content | Test de functionaliteit en respons van het klachtmechanisme |
| Incidentrapportage | Beveiligingsincidenten moeten binnen de voorgeschreven termijnen aan de autoriteiten worden gemeld | Testen van incidentrespons |
Contentbeperkingen specifiek voor China
De Maatregelen voor Generatieve AI leggen contentbeperkingen op die uniek zijn voor de Chinese regelgevingscontext en mogelijk niet aansluiten op het contentbeleid in andere jurisdicties:
| Contentcategorie | Vereiste | Testaanpak |
|---|---|---|
| Nationale veiligheid | Er mag geen content worden gegenereerd die de nationale veiligheid of soevereiniteit bedreigt | Test met politiek gevoelige prompts |
| Sociale stabiliteit | Er mag geen content worden gegenereerd die aanzet tot ondermijning of separatisme | Grenzentesten voor politieke content |
| Economische orde | Er mag geen content worden gegenereerd die de economische of sociale orde verstoort | Test op marktmanipulatie of financiële desinformatie |
| Individuele rechten | Er mag geen inbreuk worden gemaakt op de reputatie, privacy of IP-rechten van anderen | Scenariotesten voor privacy en smaad |
| Historische nauwkeurigheid | Er mogen geen historische gebeurtenissen worden verdraaid of historische feiten worden ontkend (zoals gedefinieerd door de staat) | Test reacties op gevoelige historische onderwerpen |
| Discriminatie | Er mag geen discriminerende content worden gegenereerd | Bias- en fairnesstesten |
Vereisten voor veiligheidsbeoordeling
Voordat generatieve AI-diensten in China aan het publiek worden aangeboden, moeten aanbieders een beveiligingsbeoordeling voltooien:
Zelfbeoordeling
Voer een interne beoordeling van beveiliging en contentveiligheid uit die alle regelgevingsvereisten dekt. Dit is waar red teaming het meest direct past.
Algoritmeregistratie
Registreer het algoritme bij het Algorithm Filing System van de CAC en verstrek technische details over de werking van het systeem.
Rapport over veiligheidsbeoordeling
Dien bij het relevante CAC-kantoor op provinciaal niveau een rapport over de veiligheidsbeoordeling in dat contentveiligheid, gegevensbeveiliging en bescherming van persoonsgegevens dekt.
Doorlopende monitoring
Implementeer doorlopende monitoring en neem binnen de vereiste termijnen corrigerende maatregelen wanneer problemen worden geïdentificeerd.
Naleving voor wereldwijde bedrijven
Jurisdictionele triggers
| Scenario | Chinese wet van toepassing? | Belangrijkste verplichtingen |
|---|---|---|
| Chinees bedrijf actief in China | Ja -- volledige naleving | Alle bepalingen zijn van toepassing |
| Buitenlands bedrijf met een Chinese entiteit | Ja -- via de Chinese entiteit | De entiteit moet aan alle bepalingen voldoen |
| Buitenlands bedrijf dat Chinese gebruikers bedient (geen entiteit) | Waarschijnlijk ja -- extraterritoriale toepassing | Contentbeperkingen, datalokalisatie, gebruikersbescherming |
| Buitenlands bedrijf zonder Chinese gebruikers | Nee | Niet van toepassing |
| Buitenlands bedrijf waarvan de dienst via VPN in China wordt gebruikt | Grijs gebied | Technische handhaving onzeker, juridisch risico blijft bestaan |
Praktische nalevingsuitdagingen voor wereldwijde bedrijven
| Uitdaging | Beschrijving | Mitigatie |
|---|---|---|
| Divergentie in contentbeleid | Chinese contentvereisten verschillen van westers contentbeleid | Implementeer geografisch gesegmenteerd contentbeleid |
| Datalokalisatie | PIPL vereist dat persoonsgegevens van Chinese gebruikers in China worden opgeslagen | Aparte data-infrastructuur voor Chinese gebruikers |
| Registratie onder echte naam | Deep synthesis en GenAI vereisen verificatie van de echte identiteit | Implementeer identiteitsverificatie voor diensten op de Chinese markt |
| Algoritmetransparantie | Algoritmedetails moeten aan de CAC worden bekendgemaakt | Bereid technische documentatie voor Chinese toezichthouders voor |
| Dubbele naleving | Er moet worden voldaan aan zowel de Chinese wet als de vereisten van de eigen jurisdictie | Juridische toetsing op tegenstrijdige vereisten |
Vergelijking met andere regelgevingskaders
| Dimensie | China | EU AI Act | VS (staatswetten) |
|---|---|---|---|
| Aanpak | Technologiespecifieke regelgeving | Risicogebaseerde uitgebreide regelgeving | Gefragmenteerd, toepassingsspecifiek |
| Contentbeperkingen | Uitgebreide politieke en sociale contentbeperkingen | Focus op veiligheid en grondrechten | Beperkt (voornamelijk anti-discriminatie) |
| Handhaving | Bestuursrechtelijk (CAC), mogelijk strafrechtelijk | Bestuursrechtelijke boetes (tot 7% van de wereldwijde omzet) | Handhaving door AG en privaatrechtelijke acties |
| Snelheid van regelgeving | Snel (maanden van voorstel tot handhaving) | Traag (jarenlang wetgevingsproces) | Variabel per staat |
| Extraterritoriaal bereik | Van toepassing op diensten die in China toegankelijk zijn | Van toepassing op AI-systemen die op de EU-markt worden ingezet | Van toepassing op basis van de locatie van de gebruiker |
| Algoritmeregistratie | Vereist voor de meeste AI-systemen | Niet vereist (in plaats daarvan conformiteitsbeoordeling) | Niet vereist |
| Goedkeuring vóór marktintroductie | Veiligheidsbeoordeling vereist voor GenAI-diensten | Conformiteitsbeoordeling voor systemen met hoog risico | Doorgaans niet vereist |
Overwegingen bij red team-opdrachten
Scoping voor naleving van de Chinese regelgeving
Bij het uitvoeren van red team-opdrachten voor organisaties die onder de Chinese AI-regelgeving vallen:
- Bepaal welke specifieke regelingen van toepassing zijn op basis van het type AI-systeem en de inzetcontext
- Begrijp dat contentveiligheidstesten voor de Chinese markt gespecialiseerde kennis van politiek gevoelige onderwerpen vereisen
- Stem af met lokale juridische adviseurs om ervoor te zorgen dat de testactiviteiten zelf voldoen aan de Chinese wet
- Structureer bevindingen zodanig dat ze direct verwijzen naar de toepasselijke Chinese regelgevingsbepalingen
- Wees je ervan bewust dat testresultaten mogelijk met de Chinese toezichthoudende autoriteiten moeten worden gedeeld als onderdeel van het veiligheidsbeoordelingsproces
Testactiviteiten per regeling
| Regeling | Primaire testactiviteiten |
|---|---|
| Bepalingen voor Aanbevelingsalgoritmen | Verificatie van gebruikerscontrole, detectie van prijsdiscriminatie, beoordeling van filter bubbles, testen van bescherming van minderjarigen |
| Deep Synthesis-bepalingen | Robuustheid van watermerken, testen van label-omzeiling, identiteitsverificatie, generatie van verboden content |
| Maatregelen voor Generatieve AI | Grenzentesten voor contentveiligheid, hallucinatiebeoordeling, ondersteuning bij veiligheidsbeoordeling, verificatie van klachtmechanismen |
| PIPL | Testen van data-extractie, verificatie van toestemming, verificatie van datalokalisatie, effectiviteit van verwijdering |
Red teamers die werken aan naleving van de Chinese regelgeving moeten gespecialiseerde expertise ontwikkelen in de politieke en culturele context die de Chinese contentvereisten vormgeeft. Technische vaardigheid alleen is onvoldoende -- effectief testen vereist begrip van de regelgevingsintentie en de handhavingspatronen die uniek zijn voor China's aanpak van AI-governance.