# data-extraction
7 artikelengetagd met “data-extraction”
Embedding-inversieaanvallen
Technieken om invoertekst te reconstrueren uit embeddingvectoren: modelspecifieke inversiemethoden, privacy-implicaties en verdedigingen tegen embedding-inversie.
CTF: RAG Heist
Extract sensitive information from a Retrieval-Augmented Generation system by exploiting retrieval mechanisms, document parsing, embedding manipulation, and context window management vulnerabilities.
Bekende kwetsbaarheden van GPT-4
Documented GPT-4 vulnerabilities including DAN jailbreaks, data extraction incidents, system prompt leaks, tool-use exploits, and fine-tuning safety removal.
Trainingsdata extraheren
Technieken om gememoriseerde trainingsdata, system prompts en privé-informatie uit LLM's te extraheren via gerichte queries en membership inference-aanvallen.
Embedding-inversie
Het herstellen van oorspronkelijke tekst uit embeddingvectoren, privacy-implicaties van opgeslagen embeddings, modelinversie-aanvallen op vector-databases en technieken voor analyse van de embedding-ruimte.
RAG-, data- en trainingsaanvallen
Overzicht van aanvallen gericht op de datalaag van AI-systemen, waaronder RAG-poisoning, manipulatie van trainingsdata en data-extractietechnieken.
Referentie van aanvalspayloads
Gecategoriseerde referentie van veelvoorkomende aanvalspayloads voor AI-redteaming, met prompt injection, jailbreaks, data-extractie en adversarial inputs met effectiviteitsnotities.