# persistence
20 artikelengetagd met “persistence”
Agent memory-poisoning
Technieken om kwaadaardige inhoud te injecteren in de geheugensystemen van agents -- gespreksgeschiedenis, RAG-stores en vectordatabases -- om persistente compromittering over sessies heen te bereiken.
Rogue en shadow agents
Hoe gecompromitteerde, misaligned of niet-geautoriseerde AI-agents binnen systemen opereren -- rogue agents die schadelijk handelen terwijl ze legitiem lijken, en shadow agents die zonder beveiligingsreview worden uitgerold.
Vergiftiging van agentgeheugen
Technieken voor het vergiftigen van korte- en langetermijngeheugensystemen van AI-agents om persistente compromittering te bereiken, gedragsmatige backdoors te injecteren en conversatieresets te overleven.
Aanvalspersistentie tussen sessies
Aanvalspersistentie bereiken over afzonderlijke agent-sessies heen via geheugenmanipulatie.
Geheugencompactie-exploitatie
Het exploiteren van geheugen-samenvattings- en compactieprocessen om vijandige instructies over compressiecycli heen te laten voortbestaan.
Aanvallen ter voorkoming van geheugenverwijdering
Technieken om vijandige herinneringen bestand te maken tegen opschoon-, verwijderings- en zuiveringsoperaties.
Geheugenvergiftigingstechnieken
Geavanceerde technieken voor het injecteren van persistente instructies in de geheugensystemen van AI-agents, waaronder semantische trojans, zelfversterkende payloads, slapende backdoors en mechanismen voor persistentie over sessies heen.
Ontwerp van backdoor-triggers
Methodology for designing effective backdoor triggers for LLMs, covering trigger taxonomy, poison rate optimization, trigger-target mapping, multi-trigger systems, evaluation evasion, and persistence through fine-tuning.
Aanvallen via manipulatie van checkpoints
Intercepting and modifying model checkpoints during the fine-tuning process to inject persistent backdoors or remove safety properties.
Agent memory injection voor persistente toegang
Inject persistent instructions into agent memory systems that survive across conversation sessions.
Lab: manipulatie van agentgeheugen
Hands-on lab for injecting persistent instructions into an agent's memory and context that affect future interactions and conversations.
Lab: multi-turn-aanvalscampagnes
Hands-on lab for executing multi-turn crescendo attacks against LLMs, measuring safety degradation over conversation length, and building persistent attack campaigns.
Conversation steering
Technieken om de context van een gesprek geleidelijk richting aanvalsdoelen te sturen zonder veiligheidsmechanismen te activeren.
Cross-context injection (prompt injection)
Prompt injection-technieken die over contextgrenzen heen blijven bestaan: ze overleven conversatie-resets, sessiewisselingen, geheugengrenzen en handoffs tussen meerdere agents.
Een persona vestigen
Het creëren van persistente alternatieve identiteiten die meerdere gespreksbeurten overleven, inclusief character locking, het verankeren van identiteiten en het stapsgewijs opbouwen van een persona.
Mechanismen voor adversarial persistentie
Technieken om persistente toegang tot AI-systemen te behouden, waaronder manipulatie van conversation memory, vergiftiging van gecachte responses en persistentie via model-weights.
Persistentie in AI-systemen
Persistente toegang en invloed in AI-systemen verkrijgen via memory, fine-tuning en contextmanipulatie.
Walkthrough: aanval op geheugenpersistentie
Walkthrough of achieving persistent memory manipulation in agent systems for cross-session influence.
Geheugen-poisoning stap voor stap
Walkthrough of persisting injection payloads in agent memory systems to achieve long-term compromise of LLM-based agents.
Walkthrough: geheugen-injection en -persistentie
Walkthrough of injecting persistent instructions into agent memory systems that survive across sessions.