# tradecraft
41 artikelengetagd met “tradecraft”
Geavanceerd tradecraft-assessment
Assessment covering OPSEC, evasion, persistence, attribution avoidance, and professional red team operations.
Beoordeling van red team-tradecraft
Assessment covering OPSEC, evasion, reconnaissance, and professional red team operations.
Modelcapaciteiten in kaart brengen
Systematische aanpakken om het volledige capaciteitenoppervlak van een AI-systeem te ontdekken en in kaart te brengen, inclusief tools, integraties, permissies en verborgen features.
AI-redteaming methodologie
Een gestructureerde methodologie voor AI-redteamingopdrachten, met verkenning, het profileren van het doelwit, aanvalsplanning en de tradecraft die professionele beoordelingen onderscheidt.
Extractie van de systeemprompt
Technieken om verborgen systeemprompts uit AI-applicaties te extraheren, waarmee safety-regels, tooldefinities, gedragsbeperkingen en gevoelige configuratie worden blootgelegd.
AI-systemen profileren
Technieken om het model, de provider, de versie, de veiligheidsconfiguratie en de capaciteiten van een AI-doelsysteem te identificeren via gedragsanalyse en fingerprinting.
Geavanceerde verkenning van AI-doelwitten
Fingerprinting van LLM-providers, reverse engineering van API's, detectie van infrastructuur en het opsporen van shadow AI bij red team-opdrachten.
Technieken voor extractie van de systeemprompt
Catalogus van methoden voor extractie van de systeemprompt bij LLM-gestuurde applicaties: directe aanvallen, indirecte technieken, multi-turn-strategieën en defensieve ontwijking.
Mechanismen voor adversarial persistentie
Technieken om persistente toegang tot AI-systemen te behouden, waaronder manipulatie van conversation memory, vergiftiging van gecachte responses en persistentie via model-weights.
Communicatieprotocollen voor het red team
Communicatie- en coördinatieprotocollen voor AI-red team-operaties, inclusief classificatie van bevindingen, escalatieprocedures en deconfliction.
Geavanceerde OPSEC voor AI red teams
Geavanceerde operationele beveiligingspraktijken voor AI-redteam-engagements, waaronder obfuscatie van verkeer, voorkoming van attributie en covert testing.
OPSEC voor het AI red team
Operationele beveiliging voor AI-redteam-engagements, waaronder beheer van API-keys en het voorkomen van attributie.
Verkenning door het AI red team
Verkenningstechnieken voor het in kaart brengen van AI-systeemarchitectuur, -modellen en -verdedigingsconfiguraties.
Attributie vermijden bij AI-testen
Technieken om geautoriseerd testen uit te voeren en tegelijk attributiesignalen in systeemlogs te minimaliseren.
AI-kwetsbaarheden aan elkaar koppelen
Technieken om meerdere AI-kwetsbaarheden te koppelen tot betrouwbare exploitatiepaden in meerdere stappen.
Counter-forensics bij AI-aanvallen
Technieken om forensische analyse te ontwijken tijdens en na AI-red team-operaties, waaronder logmanipulatie en gedragsnormalisatie.
Deconflictieprocedures voor AI-testen
Procedures om AI-redteamingactiviteiten te deconflicteren met productie-operaties, monitoringteams en andere gelijktijdig lopende assessments.
Methodologie voor defense mapping
Methodologieën om defensieve controls die een doel-AI-systeem beschermen systematisch te identificeren en in kaart te brengen voordat je aanvallen uitvoert.
Beheer van de opdrachtlevenscyclus
End-to-end-beheer van AI-red team-opdrachten, van voorstel via uitvoering tot rapportage en mitigatieverificatie.
Ontwijkingstechnieken voor AI-classifiers
Geavanceerde technieken om input-/output-safety-classifiers in LLM-applicaties te omzeilen.
Procedures voor het behandelen van bewijs
Correcte procedures voor het verzamelen, documenteren en bewaren van bewijs tijdens AI-red team-opdrachten, zodat bevindingen verdedigbaar zijn.
Behandeling van bewijs bij red team-operaties
Juiste procedures voor het behandelen van bewijs tijdens AI-red team-opdrachten, inclusief verzameling, bewaring en documentatie.
Fingerprinting van LLM-modellen
Technieken om te bepalen welk model, welke versie en welke configuratie ten grondslag liggen aan een AI-applicatie.
Tradecraft
Geavanceerde AI-redteam-tradecraft over verkenningstechnieken, AI-specifieke threat modeling en gestructureerde engagement-methodologie voor professionele adversarial assessments.
Lateral movement in AI-systemen
Technieken om lateraal door AI-systeemarchitecturen te bewegen na een eerste compromittering, waaronder pivoten van agent naar agent en exploitatie van tools.
Programma's voor continue redteaming
Doorlopende AI-redteamprogramma's ontwerpen en uitvoeren met geautomatiseerde testpijplijnen, metric-dashboards, KPI-frameworks, alert-gedreven assessments en integratie met CI/CD- en modeldeploymentworkflows.
Bewijsverzameling en chain of custody (tradecraft)
Standaarden voor het vastleggen, bewaren en documenteren van AI-redteamfindings: conversatielogs, API-traces, meting van bypass-ratio's en bewijspakketten voor reproduceerbare rapportage.
Overzicht van red team-methodologie
Een gestructureerde methodologie voor AI-red team-opdrachten: fasen, deliverables, roldefinities en hoe AI-specifiek testen verschilt van traditionele penetratietesten.
Purple teaming voor AI
Samenwerkingsoefeningen tussen aanval en verdediging voor AI-systemen: het structureren van purple team-engagements, realtime kennisoverdracht, gezamenlijke aanvalssimulatie en het meten van defensieve verbetering via iteratief testen.
Scoping en rules of engagement
Scope, rules of engagement, autorisatiegrenzen en succescriteria definiëren voor AI-redteamopdrachten, met sjablonen en checklists voor veelvoorkomende opdrachttypes.
AI-specifieke dreigingsmodellering
STRIDE aanpassen voor AI-systemen, attack trees bouwen voor LLM-applicaties, AI-specifieke dreigingscategorieën identificeren en bruikbare dreigingsmodellen produceren die red team-testplannen aansturen.
Technieken voor modelenumeratie
Systematische technieken om specifieke modellen, versies en configuraties achter API-endpoints te identificeren via gedragsanalyse en probing.
Planning van aanvallen in meerdere fasen
Planning en uitvoering van aanvallen in meerdere fasen op AI-systemen, waarbij meerdere kwetsbaarheidsklassen worden gekoppeld tot volledige exploitatiepaden.
Technieken voor payload-staging
Technieken voor het stagen en afleveren van adversarial payloads in stappenreeksen die detectie door real-time monitoringsystemen vermijden.
Persistentie in AI-systemen
Persistente toegang en invloed in AI-systemen verkrijgen via memory, fine-tuning en contextmanipulatie.
Pivoten van AI naar traditionele infrastructuur
Technieken om vanuit een gecompromitteerd AI-systeem te pivoten naar toegang tot traditionele infrastructuur.
Scopebeheer voor AI-engagements
Beheer van de opdrachtscope voor AI-red team-assessments, inclusief het afbakenen van grenzen, escalatiecriteria en protocollen voor responsible disclosure.
Social engineering in een AI-context
Social engineering-technieken die aangepast zijn voor AI-bemiddelde interacties en agent-gebaseerde systemen.
Technieken voor stealth-data-extractie
Stealthy technieken om gevoelige data uit AI-systemen te extraheren zonder alarmen te triggeren.
Doelprofilering voor AI-systemen
Uitgebreide profielen opbouwen van doel-AI-systemen, inclusief architectuur, capaciteiten, verdedigingen en bekende zwakheden voorafgaand aan een opdracht.
Toolselectie voor AI-redteaming
Framework voor het selecteren en configureren van tools voor AI-red team-opdrachten op basis van doelarchitectuur, opdrachtscope en teamcapaciteiten.