# prompt
13 artikelengetagd met “prompt”
Casestudy: prompt injection in het wild
Collection of documented prompt injection incidents in production applications.
Canariesysteem voor prompt-injectie
Zet canariestrings in systeemprompts in om pogingen tot prompt-injectie en extractie te detecteren en erop te alarmeren.
Onderzoek naar certificering van prompt-robuustheid
Onderzoek naar het certificeren van prompt-robuustheid met formele garanties tegen begrensde adversariële verstoringen.
Lab voor analyse van promptstructuur
Reverse-engineer the prompt structure of target applications by analyzing response patterns and behavioral cues.
Prompt Smuggler-uitdaging
Smuggle a specific payload through 5 layers of increasingly sophisticated input filtering to capture the flag.
Lab voor technieken van promptlekkage
Practice multiple system prompt extraction techniques and measure their effectiveness across different targets.
Beveiliging van versiebeheer van prompttemplates
Securing prompt template version management against unauthorized modifications and injection.
Cognitive load injection
Modelcapaciteit misbruiken met cognitive-load-aanvallen die de veiligheidsredenering overbelasten.
Misbruik van de instructiehiërarchie
Het misbruiken van ambiguïteiten in instructieprioriteitshiërarchieën bij verschillende modelaanbieders.
Meta-prompt injection
Instructies injecteren over hoe het model toekomstige instructies moet verwerken.
Temporele injectie-aanvallen
Misbruik van tijdsafhankelijk gedrag in modellen, waaronder seizoensgebonden variaties in veiligheid en misbruik van updatevensters.
Universele suffix-aanvallen
Onderzoek naar en praktijk van universele adversarial suffixes die overdraagbaar zijn tussen modellen en prompts.
Implementatiegids voor Prompt Armor
Implement a comprehensive prompt armoring system with instruction isolation, delimiter hardening, and priority enforcement.