# mechanistic
2 artikelengetagd met “mechanistic”
Onderzoek naar attention-manipulatie
Onderzoek naar het direct manipuleren van attention-patronen om injection-doelen te bereiken, geïnformeerd door inzichten uit mechanistische interpretability.
researchattentionmanipulationmechanistic
Activation steering
Modelgedrag manipuleren door geleerde stuurvectoren toe te voegen aan tussenliggende activaties, en zo de safety-training omzeilen via directe representation engineering.
activation-steeringrepresentation-engineeringsteering-vectorsmechanisticsafety-bypass