# data
13 artikelengetagd met “data”
Gegevensexfiltratie via functieaanroepen
Functieaanroepen gebruiken als kanalen voor gegevensexfiltratie om informatie uit beperkte omgevingen te extraheren.
Assessment van dataprivacy in AI
Assessment on training data privacy, membership inference, data extraction, and privacy-preserving techniques.
Gradient leakage-aanvallen
Extracting training data from gradient updates in federated and collaborative learning settings.
Misbruik van memorisatie van trainingsdata
Techniques for exploiting model memorization to extract verbatim training examples.
Property inference-aanvallen
Inferring global properties of training datasets through model behavior analysis.
Praktische vergiftiging van synthetische data
Poisoning synthetic data generation pipelines used for model training augmentation.
Data Heist-uitdaging
Extract a secret database of customer records from a RAG-enabled chatbot with strict data access controls.
Beveiliging van de feature store
Securing feature stores used in ML pipelines against poisoning and unauthorized access.
Aanvallen op pre-trainingdata
Het aanvallen van de pre-trainingdatapipeline, waaronder vergiftiging van webcrawls en manipulatie van datacuratie.
Vergiftiging van voorkeursdata (Training Pipeline)
Het vergiftigen van voorkeursdata gebruikt in RLHF en DPO om de alignment van het model richting de doelstellingen van de aanvaller te verschuiven.
Aanvallen op de herkomst van trainingsdata
Attacking training data provenance and attribution systems to inject unverified data sources.
Dataharvesting via LLM-apps
Complete walkthrough of systematic data extraction from LLM applications using various exfiltration channels.
End-to-end walkthrough van RAG-poisoning
Complete walkthrough of poisoning a RAG system from document injection through information extraction.