# impact
11 artikelengetagd met “impact”
Impactbeoordeling
Test your understanding of AI system impact scenarios including misinformation generation, harmful content, reputation damage, denial of service, data corruption, financial fraud, and compliance violations with 10 questions.
Methodologie voor AI-impactbeoordeling
Methodologie voor het uitvoeren van algoritmische impactbeoordelingen die door opkomende regelgeving worden vereist.
Complianceovertredingen
Regelgevingsovertredingen door AI-systemen, waaronder PII-lekken onder de AVG, HIPAA-overtredingen via medische chatbots, boetes onder de EU AI Act en problemen met grensoverschrijdende dataverkeer.
Datacorruptie
Hoe gecompromitteerde LLM-outputs downstream-systemen corrumperen via vervuiling van databases, cascaderende pipelinefouten, RAG-feedbackloops en het vergiftigen van geautomatiseerde besluitvorming.
Denial of service
Aanvallen die LLM-resources uitputten, waaronder sponge examples, het overspoelen van het contextvenster, recursieve promptloops en tokenamplificatie, die AI-systemen verslechteren of platleggen.
Financiële fraude
AI-ondersteunde financiële oplichting, waaronder LLM-aangedreven phishing op grote schaal, deepfake-CEO-fraude, geautomatiseerde social engineering, het verzamelen van inloggegevens en het vervalsen van financiële documenten.
Generatie van schadelijke content
Veiligheidsmechanismen omzeilen om gevaarlijke content te genereren, waaronder instructies voor wapens, malwarecode en sjablonen voor intimidatie, met een analyse van de aanvalspatronen en verdedigingen.
Impactcategorieën
Overzicht van de gevolgen in de praktijk van geslaagde AI-aanvallen, van desinformatie en schadelijke content tot financiële fraude en het overtreden van regelgeving.
Generatie van desinformatie
LLM's bewapenen om op grote schaal overtuigende valse content te produceren, waaronder nepartikelen, geautomatiseerde propaganda en het misbruiken van hallucinaties.
Reputatieschade
Aanvallen die de reputatie van een organisatie schaden via AI-systemen, waaronder merkimitatie, beledigende chatbot-outputs en gemanipuleerde publieke bots.
Impact van kwantisatie op modelveiligheid
How quantization affects safety alignment including GPTQ, AWQ, and GGUF format implications.