# context-window
19 artikelengetagd met “context-window”
Aanvallen op het contextvenster
Technieken voor het exploiteren van de limieten van het LLM-contextvenster, inclusief strategische contextoverflow om systeeminstructies eruit te duwen, attention-manipulatie en aanvallen die het contextbudget uitputten.
Beveiliging van agentgeheugensystemen
Uitgebreid overzicht van geheugenarchitecturen van AI-agents en hun beveiligingsimplicaties, met aandacht voor conversatiepersistentie, langetermijngeheugens, beheer van het contextvenster en aanvalsoppervlakken.
Aanvallen op het geheugencontextvenster
Misbruik van geheugensystemen die de beperkingen van het contextvenster beheren om informatie te injecteren of te onderdrukken.
Behoud van conversaties
Het behouden van bewijs uit AI-conversaties: het vastleggen van interactielogs, reconstructie van het contextvenster, integriteit van multi-turn-conversaties, behoud van de keten van tool-aanroepen en de opbouw van een forensische tijdlijn.
Beveiligingsassessment van het context window
Assessment of context window overflow, attention manipulation, and long-context exploitation techniques.
Interne werking van het context window
Hoe attention decay, de grenzen van positional encoding en geheugenbeheer in transformer-context-windows uitbuitbare patronen creëren voor red team-operaties.
Interne werking van LLM's voor exploitontwikkelaars
Transformer-architectuur, interne werking van tokenizers, logit-pipelines en trust boundaries vanuit een offensief beveiligingsperspectief.
Basis context window overflow
Fill the context window with padding content to push safety instructions out of the attention window.
Lab: overflow-aanvallen op het contextvenster
Hands-on lab exploring how overflowing a model's context window with padding content can push safety instructions out of the attention window and enable injection attacks.
Lab: optimalisatie van aanvallen op het contextvenster
Optimize prompt injection placement within the context window to maximize attack effectiveness using attention dynamics.
Lab: Context Window Stuffing-aanvallen
Praktijklab dat laat zien hoe oversized inputs het contextvenster van een LLM kunnen overweldigen om veiligheidsinstructies te verdunnen, systeemprompts uit het attention-venster te duwen of instructie-amnesie te veroorzaken.
Misbruik van de grenzen van het context window
Exploit the boundaries of context windows to push safety instructions beyond the model's attention.
Context overflow-aanvallen
Technieken om het context window van een LLM te vullen met opvulinhoud om systeeminstructies uit de attention te duwen en zo hun invloed op het modelgedrag te verminderen.
Misbruik van het context window
Geavanceerde technieken om de mechanismen van het context window in LLM's te misbruiken, waaronder attention-verdunning, aanvallen op positional encoding, manipulatie van de KV-cache en verwarring van contextgrenzen.
Many-shot jailbreaking
Power-law-schaling van in-context jailbreaks: waarom 5 shots falen maar 256 slagen, de grootte van het contextvenster als aanvalsoppervlak, en mitigaties tegen exploitatie van lange context.
Exploitatie van het contextvenster (training pipeline)
Contextvenstergrenzen als aanvalsoppervlak: context stuffing, attentieverdunning, lost-in-the-middle-aanvallen, en hoe contextlengte de slagingskans van injecties beïnvloedt.
Aanvalsvectoren op modelarchitectuur
Hoe keuzes in modelarchitectuur exploiteerbare aanvalsoppervlakken creëren, waaronder attentiemechanismen, MoE-routing, KV-cache en kwetsbaarheden in het contextvenster.
Agent context overflow
Walkthrough of overflowing agent context windows to push safety instructions out of the LLM's attention, enabling bypasses of system prompts and guardrails.
Context window stuffing
Techniques for filling the LLM context window to push system instructions out of active memory, manipulating token budgets to dilute or displace defensive prompts.