# synthetic-data
9 artikelengetagd met “synthetic-data”
Beveiligingsrisico's van synthetische data
Security implications of using synthetic data for model training, including inherited biases, poisoning propagation, and privacy leakage.
Vergiftiging van synthetische data
Attacking synthetic data generation pipelines to produce poisoned training sets, including generator manipulation, prompt poisoning, and contamination amplification.
Vergiftiging van Synthetische Data in Trainingspipelines
Onderzoek naar het vergiftigen van pipelines voor het genereren van synthetische data die worden gebruikt voor modeltraining en fine-tuning.
Geavanceerde aanvalsvectoren voor training
Geavanceerde trainingsaanvallen: vergiftiging van federated learning, exploits van model merging, kwetsbaarheden in distributed training, risico's van emergente capaciteiten en aanvallen op synthetische-datapipelines.
Aanvallen op synthetische-datapipelines
Aanvallen op pipelines voor het genereren van synthetische data: modelinstorting door synthetische feedbackloops, vergiftiging van synthetische-datageneratoren, omzeiling van kwaliteitscontrole en aanvallen op dataherkomst.
Risico's van synthetische data
Modelinstorting door trainen op synthetische data, kwaliteitsdegradatie over generaties, distributievernauwing, uitwissing van minderheden, en strategieën voor veilig gebruik van synthetische data in LLM-training.
Aanvallen op de synthetische-datapipeline (Training Pipeline)
Het aanvallen van pipelines voor het genereren van synthetische data die worden gebruikt voor modeltraining en -augmentatie.
Vectoren voor vergiftiging van synthetische data
Aanvalsvectoren die specifiek zijn voor pipelines voor het genereren van synthetische data die worden gebruikt bij modeltraining en -augmentatie.
Vergiftigingsaanvallen op synthetische trainingsdata
Uitgebreide analyse van vergiftigingsvectoren in pipelines voor het genereren van synthetische data, van manipulatie van het teacher-model tot het ontwijken van filtering na generatie.