# injection
98 artikelengetagd met “injection”
Misbruik van function calling
Praktische aanvallen op OpenAI function calling, Anthropic tool use en vergelijkbare API's -- function calls injecteren via prompt injection, gaten in parametervalidatie misbruiken en calls aan elkaar koppelen.
Geheugenschema-injectie
Het injecteren van gestructureerde data in geheugensystemen die het gedrag van de agent wijzigen wanneer deze in toekomstige interacties wordt opgehaald.
Persistente geheugeninjectie
Het injecteren van persistente valse herinneringen in de geheugensystemen van agents om toekomstig gedrag te beïnvloeden.
Geheugencompressie-injectie
Injecteer persistente instructies via geheugencompressie- en samenvattingsprocessen in langlopende agents.
Schema-injectie bij functies
Het injecteren van kwaadaardige instructies via beschrijvingen van functieparameters en schemadefinities.
Parametermanipulatie
Technieken voor het opstellen van kwaadaardige parameterwaarden in LLM-function-calls, waaronder type confusion, grensoverschrijdingen, injectie via parameters en het uitbuiten van zwakke validatie.
Structured-Output-Tool-injectie
Het misbruiken van de structured-output-modus om tool-call-directieven in modelreacties te injecteren.
MCP-configuratie-injectie
Het injecteren van kwaadaardige configuratie in de initialisatie van MCP-servers voor persistente compromittering.
MCP prompt-template-injectie
MCP-prompttemplates exploiteren om instructies te injecteren via templatevariabelen en argumenten.
MCP-tool-beschrijvingsinjectie
Technieken voor het injecteren van adversariële instructies via MCP-toolbeschrijvingen en parameterschema's.
MCP-resource-template-injectie
Injecteer adversariële inhoud via MCP-resource-URI-templates en parameteruitbreidingsmechanismen.
Loganalyse voor injectiedetectie
Het analyseren van applicatie- en modellogs om prompt-injectieaanvallen te detecteren, inclusief patroonherkenning, anomaliedetectie en gedragsindicatoren.
Beoordeling van injection-verdedigingen
Assessment on defending against prompt injection including classifiers, guardrails, and output filtering.
Casestudy: prompt injection in het wild
Collection of documented prompt injection incidents in production applications.
Injection-aanvallen via commit messages
Using crafted commit messages to inject adversarial instructions into AI code review tools that process git history for context.
Injection-aanvallen op Copilot
Prompt injection through repository context that influences code generation suggestions.
Op documentatie gebaseerde code injection
Embedding adversarial instructions in code comments, docstrings, and documentation files that influence AI code generation.
Injection-aanvallen via IDE-plug-ins
Exploiting IDE-integrated AI coding assistants through workspace context poisoning, configuration manipulation, and extension-based injection vectors.
Mei 2026: RAG-poisoning-uitdaging
Inject malicious documents into a retrieval-augmented generation system to control responses for specific queries without disrupting normal operation.
Maandelijkse uitdaging: Injection Olympics
Monthly community challenge focused on creative prompt injection techniques across multiple models.
Canariesysteem voor prompt-injectie
Zet canariestrings in systeemprompts in om pogingen tot prompt-injectie en extractie te detecteren en erop te alarmeren.
Injectie-aanvallen op de vectordatabase (beveiliging van embeddingvectoren)
Uitgebreide technieken voor het injecteren van adversarial vectoren in vectordatabases om retrievalresultaten te manipuleren en de uitvoer van RAG-systemen te beïnvloeden.
Injectie-aanvallen op de vectordatabase (overzicht beveiliging van embeddingvectoren)
Adversariële documenten in vectordatabases injecteren om de zoekresultaten van retrieval te beïnvloeden.
Schermopname-injectie
Technieken voor het injecteren van kwaadaardige inhoud via de schermopname-pipelines die door computer use AI-agents worden gebruikt, waaronder framemanipulatie, timingaanvallen op de opname en payloadlevering op pixelniveau via het visuele kanaal.
Robotbesturingsinjectie
Technieken om kwaadaardige commando's in LLM-bestuurde robotsystemen te injecteren: prompt-injectie via taakbeschrijvingen, exploitatie van codegeneratie, parametermanipulatie en het kapen van actievolgordes.
Exploits van uitvoerafhandeling
Verdieping in XSS-, SQL-injectie-, command injection-, SSTI- en path traversal-aanvallen die LLM-uitvoer bewapenen als injectievector tegen downstream-systemen.
Cross-architectuur transfer van injection
Onderzoek naar hoe injection-technieken overdragen tussen modelarchitecturen en welke architectonische eigenschappen transferability bepalen.
Onderzoek naar cross-linguale transfer van injection
Onderzoek naar hoe injection-technieken zich verspreiden tussen talen en meertalige modellen.
Verdediging-bewust ontwerp van payloads
Het ontwerpen van injection-payloads die zich aanpassen aan en specifieke verdedigingsmechanismen omzeilen via probing en op feedback gebaseerde optimalisatie.
Verdediging-geïnformeerd ontwerp van injection
Methodologie voor het ontwerpen van injections die rekening houden met bekende defensieve mechanismen.
Injection-onderzoek
Geavanceerd onderzoek naar prompt injection, jailbreak-automatisering en multimodale aanvalsvectoren, met state-of-the-art technieken die verder gaan dan de standaard injectiebenaderingen.
Injection in reasoning-modellen
Onderzoek naar injection-aanvallen specifiek voor reasoning-augmented modellen die chain-of-thought-processen en zelfreflectiemechanismen misbruiken.
Taxonomie van het injection-aanvalsoppervlak
Uitgebreide taxonomie van alle bekende injection-aanvalsoppervlakken in LLM-gestuurde applicaties.
Onderzoek naar multi-agent-injectie
Onderzoek naar hoe injecties zich verspreiden door multi-agentsystemen en welke eigenschappen de verspreidingssnelheid van infecties bepalen.
Nieuwe injectieklassen
Verkenning van opkomende injection-klassen die niet in traditionele taxonomieën passen, waaronder structurele, temporele en cross-system injection-vectoren.
Onderzoek naar semantische injectie
Onderzoek naar semantisch coherente injecties die niet te onderscheiden zijn van normale invoer.
Onderzoek naar injectie in de semantische ruimte
Onderzoek naar injecties die opereren in de semantische embeddingruimte in plaats van de tokenruimte en aangeleerde representaties direct misbruiken.
Temporele dynamiek van injectiesucces
Onderzoek naar hoe injectiesuccespercentages in de loop van de tijd veranderen door modelupdates en evolutie van verdedigingen.
Multimodale image-injectie
Embed adversarial text in images that triggers prompt injection in vision-language models.
Audio injection via speech-to-text-modellen
Craft adversarial audio that embeds prompt injection payloads when transcribed by speech-to-text models.
Agent memory injection voor persistente toegang
Inject persistent instructions into agent memory systems that survive across conversation sessions.
Grondbeginselen van few-shot injection
Craft few-shot examples that prime the model to follow attacker instructions in subsequent turns.
Hello world-prompt injection
Write and test your first prompt injection payload against a simple chatbot to understand the fundamental attack mechanism.
Injectietechnieken met emoji en Unicode
Use emoji sequences and Unicode special characters to bypass text-based input filters.
Grondbeginselen van JSON-injectie
Inject adversarial content through JSON-formatted inputs to exploit structured data processing.
Prompt injection via bestandsnamen
Embed prompt injection payloads in filenames and metadata of uploaded documents.
Prompt injection via vertaling
Exploit LLM translation capabilities to smuggle instructions through language boundaries.
XML-injectie in LLM-contexten
Exploit XML tag handling in LLM applications to manipulate instruction parsing.
Cross-context injection
Inject prompts that persist across separate conversation contexts in shared deployments.
Lab: op documenten gebaseerde RAG injection
Inject adversarial content into documents that will be processed by a RAG system to influence model responses.
Lab: injection van few-shot-voorbeelden
Hands-on lab exploring how injected few-shot examples can steer language model outputs toward attacker-chosen behaviors by exploiting in-context learning.
Lab: injection via function calling
Hands-on lab for exploiting function calling mechanisms by crafting inputs that manipulate which functions get called and with what parameters.
Lab: op afbeeldingen gebaseerde prompt injection
Hands-on lab exploring how text instructions embedded in images can be used to perform prompt injection against vision-language models (VLMs) that process visual input.
Lab: JSON-invoerinjectie
Hands-on lab exploring how adversarial payloads injected through structured JSON inputs can manipulate language model behavior, bypass schema validation, and exploit parsing inconsistencies.
Lab: op Markdown gebaseerde injectie
Hands-on lab exploring how Markdown rendering in AI-generated outputs can be exploited to inject hidden content, exfiltrate data through image tags, and manipulate displayed information.
Lab: injection via RAG-metadata
Hands-on lab for exploiting metadata fields like titles, descriptions, and timestamps to manipulate RAG retrieval ranking and influence responses.
Meertalige injectie-aanvallen
Exploit language switching and low-resource language gaps to bypass safety training.
Het maken van semantische injectie
Craft semantically coherent injections that evade both classifiers and human review.
Lab: injection-aanvallen via toolresultaten
Inject adversarial content through tool call results to poison model reasoning and redirect subsequent actions.
Assistant prefill injection-aanvallen
Exploit assistant message prefilling to prime model responses and bypass safety alignment.
PDF-documentinjectie voor RAG-systemen
Craft adversarial PDF documents that inject instructions when processed by RAG document loaders.
Injectie-aanvallen via toolresultaten
Craft malicious tool return values that inject instructions back into the model's reasoning chain.
Op audio gebaseerde injectie-aanvallen
Het aanvallen van speech-to-text- en audio-taalmodellen door het vervaardigen van adversariële audio.
Documentparsing-aanvallen
Kwaadaardige PDF's, DOCX-bestanden en andere documenten met verborgen instructies die ontworpen zijn om AI-documentverwerkers uit te buiten: injectie van onzichtbare tekst, metadatavergiftiging en renderingdiscrepanties.
Modality-Bridging-injectieaanvallen
Technieken voor het coderen van prompt-injectie-payloads in niet-tekstmodaliteiten om tekstgerichte veiligheidsfilters te omzeilen, waaronder visuele injectie, audio-injectie en cross-modal-coderingsstrategieën.
Documentmetadata-injectie
Injecteer vijandige content via documentmetadatavelden die door multimodale AI-systemen verwerkt worden.
Op afbeeldingen gebaseerde prompt-injectietechnieken
Technieken voor het inbedden van vijandige prompts in afbeeldingen die door vision-language-modellen worden verwerkt.
Beeldsteganografie voor AI-aanvallen
Het gebruik van steganografische technieken om vijandige payloads in afbeeldingen in te bedden die menselijke inspectie en geautomatiseerde detectie ontwijken terwijl ze het gedrag van AI-modellen beïnvloeden.
Beeldsteganografie voor LLM-injectie
Gebruik beeldsteganografie om prompt-injectie-payloads in te bedden die onzichtbaar zijn voor menselijke kijkers.
Screenshot- en UI-injectieaanvallen
Prompts injecteren via screenshots en UI-elementen die worden verwerkt door computer-use-AI-agents.
Steganografische prompt-injectie
Het verbergen van prompt-injectie-payloads met behulp van steganografische technieken in afbeeldingen en audio.
Typografie-gebaseerde prompt-injectie
Het uitbuiten van tekstweergave in afbeeldingen om prompt-injectie-payloads af te leveren via typografieherkenning in VLM's.
Video Frame Injection
Het injecteren van adversariële content in videoframes die worden verwerkt door AI-modellen voor videobegrip.
Cognitive load injection
Modelcapaciteit misbruiken met cognitive-load-aanvallen die de veiligheidsredenering overbelasten.
Misbruik van de instructiehiërarchie
Het misbruiken van ambiguïteiten in instructieprioriteitshiërarchieën bij verschillende modelaanbieders.
Meta-prompt injection
Instructies injecteren over hoe het model toekomstige instructies moet verwerken.
Temporele injectie-aanvallen
Misbruik van tijdsafhankelijk gedrag in modellen, waaronder seizoensgebonden variaties in veiligheid en misbruik van updatevensters.
Universele suffix-aanvallen
Onderzoek naar en praktijk van universele adversarial suffixes die overdraagbaar zijn tussen modellen en prompts.
Aanvallen op chunkgrenzen
Het misbruiken van mechanismen voor het opsplitsen en chunken van documenten in RAG-pijplijnen, waaronder payload-injectie op chunkgrenzen, cross-chunk-instructie-injectie en manipulatie van de chunkgrootte.
Metadata-injectie
Het manipuleren van documentmetadata om de retrieval-ranking in RAG te beïnvloeden, filtering te omzeilen, bronvermelding te vervalsen en metadata-gebaseerde toegangscontroles te misbruiken.
Cheatsheet voor injection-payloads
Quick reference van bewezen injection-payloads, georganiseerd per techniekcategorie, encoding-methode en type doelverdediging.
Walkthrough: A2A protocol injection
Walkthrough of exploiting Google's Agent-to-Agent protocol for inter-agent prompt injection.
Walkthrough: injection bij batchverwerking
Inject payloads through batch processing pipelines where individual items are processed without isolation.
Walkthrough: injection bij computer-use agents
Walkthrough of injecting prompts through UI elements and screenshots processed by computer-use agents.
Walkthrough: op documenten gebaseerde injection
Inject prompts through documents processed by LLM applications including PDFs, spreadsheets, and presentations.
Walkthrough: JSON-injectie-aanval
Exploit JSON parsing and generation in LLM applications to inject payloads through structured data boundaries.
Walkthrough: geavanceerde Markdown injection
Inject Markdown that triggers data exfiltration through image rendering, link generation, and code block escape.
Geheugen-poisoning stap voor stap
Walkthrough of persisting injection payloads in agent memory systems to achieve long-term compromise of LLM-based agents.
Walkthrough: overflow van het model-contextvenster
Overflow the context window to push safety instructions outside the effective attention range.
Walkthrough van multimodale image-injectie
Step-by-step walkthrough of embedding adversarial prompts in images for vision model exploitation.
Walkthrough van prompt injection via de supply chain
Plant injection payloads in upstream data sources consumed by LLM applications including packages and documentation.
Walkthrough van injectie van synthetische identiteiten
Create synthetic identities that exploit LLM trust mechanisms to achieve elevated instruction priority.
Injectie via tool calls
Step-by-step walkthrough of injecting malicious parameters into LLM tool and function calls to execute unauthorized actions in agent systems.
Walkthrough: injection-aanval op een knowledge graph
Walkthrough of injecting adversarial facts into knowledge graphs consumed by LLM-based reasoning systems.
Walkthrough van recursieve prompt injection
Walkthrough of creating self-replicating injection payloads that persist through model output-to-input loops.
Walkthrough van prompt injection bij spraak-AI
Walkthrough of injecting prompts into voice-based AI assistants through adversarial audio and ultrasonic signals.
Walkthrough van XML-injectie in LLM-systemen
Exploit XML parsing in LLM application pipelines to inject instructions through entity expansion and CDATA sections.
XML- en JSON-injectie in LLM-apps
Walkthrough of exploiting XML and JSON parsing in LLM applications for injection and data manipulation.