# emergence
5 artikelengetagd met “emergence”
Schaalwetten, emergentie en capaciteitssprongen
Hoe schaalwetten de prestaties van modellen voorspellen, waarom emergente capaciteiten onvoorspelbare beveiligingseigenschappen creëren, en wat slapende capaciteiten en emergente misalignment betekenen voor red teaming.
Beveiliging van emergent gedrag in multi-agent-systemen
Beveiligingsrisico's van emergent gedrag in multi-agent-systemen, waaronder onverwachte samenwerking en misleidende strategieën.
Neurale Schaalwetten en Beveiligingsimplicaties
Hoe schaalwetten de opkomst van kwetsbaarheden, veiligheidsgedragingen en adversariële robuustheid in grotere modellen beïnvloeden.
Uitbuiting van emergentie en capaciteitssprongen
Hoe emergente capaciteiten onvoorspelbare beveiligingseigenschappen creëren: testen op verborgen capaciteiten, sleeper agent-scenario's, zorgen over deceptive alignment en capaciteitselicitatie.
Geavanceerde aanvalsvectoren voor training
Geavanceerde trainingsaanvallen: vergiftiging van federated learning, exploits van model merging, kwetsbaarheden in distributed training, risico's van emergente capaciteiten en aanvallen op synthetische-datapipelines.