# ai-forensics-ir
23 artikelengetagd met “ai-forensics-ir”
Forensisch onderzoek van adversariële inputs
Forensische technieken voor het identificeren, reconstrueren en analyseren van adversariële inputs die worden gebruikt om het gedrag van AI-systemen te manipuleren.
Forensisch onderzoek van AI-honeypots
Het ontwerpen en exploiteren van AI-honeypots voor het verzamelen van threat intelligence, en forensische analyse van vastgelegde adversariële interacties.
Juridische overwegingen bij AI-incidenten
Juridische frameworks, verplichtingen en overwegingen voor organisaties die reageren op AI-beveiligingsincidenten, waaronder bewijsbehandeling, rapportage aan toezichthouders en aansprakelijkheid.
Ernstscoring van AI-incidenten
Frameworks en methodologieën voor het scoren van de ernst van AI-beveiligingsincidenten, met integratie van NIST AI RMF, MITRE ATLAS en traditionele CVSS-benaderingen.
Bewijsverzameling voor AI Red Teams
Systematische methodologieën voor bewijsverzameling bij AI red team-engagements, waaronder artefactbehoud, documentatie van bevindingen en chain-of-custody-procedures.
Incident Response voor de AI-toeleveringsketen
Incident response-procedures voor compromittering in de AI-toeleveringsketen, waaronder modelrepository's, trainingspijplijnen en dependency-ketens.
Ontwerp van audit trails voor AI-systemen
Het ontwerpen van uitgebreide audit trails voor AI-systemen die forensisch onderzoek, naleving van regelgeving en incident response ondersteunen.
Geheugenforensiek voor AI-systemen
Technieken voor geheugenforensiek bij het onderzoeken van gecompromitteerde AI-systemen, waaronder analyse van GPU-geheugen, extractie van modelgewichten en herstel van de runtime-staat.
Onderzoek naar compromittering van API-sleutels
Het onderzoeken van incidenten met gecompromitteerde AI-API-sleutels, waaronder detectie, scopebeoordeling, gebruiksforensiek en remediatieprocedures.
Geautomatiseerde triage van AI-incidenten
Geautomatiseerde triagesystemen bouwen voor AI-beveiligingsincidenten met op regels gebaseerde engines, anomaliedetectie en LLM-ondersteunde classificatie.
Cloud-AI-forensiek: AWS
Forensische onderzoekstechnieken voor AWS AI-diensten waaronder SageMaker, Bedrock en bijbehorende infrastructuurlogging en bewijsverzameling.
Cloud-AI-forensics: Azure
Forensische onderzoekstechnieken voor Azure AI-diensten waaronder Azure OpenAI, Azure ML en Cognitive Services, met diagnostische logging en bewijsverzameling.
Forensische deepfake-analyse
Forensische technieken voor het detecteren, analyseren en toeschrijven van AI-gegenereerde deepfake-beelden, -video en -audio.
Forensisch onderzoek van fine-tuning-aanvallen
Forensische technieken voor het detecteren van ongeautoriseerde fine-tuning-wijzigingen aan taalmodellen, waaronder degradatie van safety alignment en capaciteitsinjectie.
LLM-conversatieforensiek
Forensische analysetechnieken voor het onderzoeken van LLM-conversatielogs, het detecteren van manipulatiepatronen en het reconstrueren van aanvalstijdlijnen uit chatgeschiedenissen.
Detectie van watermerken in LLM-output
Technieken voor het detecteren, extraheren en analyseren van watermerken die zijn ingebed in door LLM's gegenereerde tekst voor herkomsttracering en forensische attributie.
Forensics voor detectie van modelbackdoors
Forensische technieken voor het detecteren, analyseren en toeschrijven van backdoors die via aanvallen tijdens of na de training in machine learning-modellen zijn geïmplanteerd.
Forensics van modeldrift
Forensische technieken voor het onderscheiden van natuurlijke modeldrift van opzettelijke sabotage, inclusief statistische detectiemethoden en bewijsverzameling.
Multi-Model Attack Correlation
Technieken voor het correleren en analyseren van gecoördineerde aanvallen die zich richten op meerdere AI-modellen of -systemen binnen een organisatie.
Analyse van prompt-injectieketens
Het analyseren van ketens van prompt-injectie-aanvallen over AI-systemen met meerdere stappen, inclusief propagatie van indirecte injectie, agentic misbruik en correlatie van aanvallen tussen systemen.
RAG-poisoning-forensics
Forensische onderzoekstechnieken voor het detecteren en analyseren van poisoning-aanvallen tegen Retrieval-Augmented Generation-systemen.
Forensics van trainingsdata-herkomst
Forensische technieken voor het traceren van de oorsprong, herkomst en integriteit van trainingsdata die in machine learning-modellen worden gebruikt.
Vectordatabase-forensics
Forensische analysetechnieken voor het detecteren en onderzoeken van vergiftiging van vectordatabases, ongeautoriseerde wijzigingen en schendingen van data-integriteit.