# data-exfiltration
18 artikelengetagd met “data-exfiltration”
Misbruik van tool-gebruik door agents
Hoe je AI-agents manipuleert om tools aan te roepen met parameters die de aanvaller bepaalt, en zo toolcapabilities misbruikt voor data-exfiltratie, privilege escalation en ongeautoriseerde acties.
Exploitatie van e-mailagents
Technieken voor het misbruiken van AI-agents die e-mails verwerken, samenvatten, opstellen en erop reageren, waaronder injectie via e-mailcontent, op bijlagen gebaseerde aanvallen en manipulatie van workflows.
Risico's van bestandssysteemagents
Beveiligingsrisico's van AI-agents met toegang tot het bestandssysteem, waaronder path-traversal-exploitatie, symlink-aanvallen, injectie van bestandsinhoud, data-exfiltratie via bestandsbewerkingen en privilege-escalatie via manipulatie van het bestandssysteem.
Incident Response-playbook voor data-exfiltratie
Playbook voor AI-gemedieerde data-exfiltratie: blootgestelde data identificeren, de omvang van exfiltratie bepalen, dataclassificatie, procedures voor inbreukmelding en remediëring.
Casestudy: beveiligingskwetsbaarheden in ChatGPT-plug-ins
Analysis of security vulnerabilities discovered in the ChatGPT plugin ecosystem, including OAuth hijacking, cross-plugin data exfiltration, and prompt injection through plugin responses.
Casestudy: indirecte prompt injection in AI-e-mailassistenten
Analysis of indirect prompt injection attacks targeting AI-powered email assistants, where adversarial instructions embedded in emails hijack the assistant's behavior to exfiltrate data, send unauthorized messages, or manipulate user actions.
Cross-cloud aanvalsscenario's
Red team attack scenarios spanning multiple cloud providers: credential pivoting between AWS, Azure, and GCP, data exfiltration across cloud boundaries, and model portability risks.
Misbruik van de fine-tuning-API
How fine-tuning APIs are abused to create uncensored models, circumvent content policies, and attempt training data exfiltration -- the gap between acceptable use policies and technical enforcement.
Experiment-tracking-systemen aanvallen
Technieken voor het misbruiken van experiment-tracking-platforms zoals MLflow, Weights & Biases, Neptune en CometML, waaronder data-exfiltratie, metric-manipulatie, experiment-injectie en het benutten van tracking-metadata voor verkenning.
Data-exfiltratie via AI-telemetrie en logging
Using AI system telemetry, logging pipelines, and observability infrastructure as covert channels for data exfiltration
Basistechnieken voor data-exfiltratie
Extract sensitive information from LLM applications using social engineering and misdirection.
Lab: Markdown-injectie
Inject images, links, and formatting into LLM responses that exfiltrate data or alter display rendering in chat interfaces.
Lab: kanalen voor data-exfiltratie
Hands-on lab for extracting data from AI systems through markdown image rendering, invisible links, tool call parameters, and other covert exfiltration channels.
Lab: kanalen voor data-exfiltratie (lab voor gevorderden)
Extract sensitive information from AI systems through various exfiltration channels including crafted links, image tags, tool calls, and side-channel leakage.
Lab: technieken voor data-exfiltratie
Hands-on lab for extracting sensitive data from AI systems including system prompt extraction, context leakage via markdown rendering, and URL-based data exfiltration.
Simulatie: engagement voor een enterprise-chatbot
Full red team engagement simulation targeting a customer-facing chatbot deployed by a fictional e-commerce company, covering reconnaissance, prompt injection, data exfiltration, and PII harvesting.
Dataharvesting via injection
Injectietechnieken gebruiken om trainingsdata, system prompts, gebruikersgegevens en andere gevoelige informatie uit LLM-toepassingen te extraheren.
Red team-engagement voor een RAG-systeem
Complete walkthrough for testing RAG applications: document injection, cross-scope retrieval exploitation, embedding manipulation, data exfiltration through retrieval, and chunk boundary attacks.