Analyse van attention-patronen voor beveiliging
Attention maps gebruiken om modelgedrag te begrijpen en te misbruiken, beveiligingsrelevante attention-patronen herkennen en de mechanica van attention inzetten voor red team-operaties.
attentiontransformersinterpretabilityattention-patternssecurity