# provenance
17 artikelengetagd met “provenance”
Detectie van watermerken in LLM-output
Technieken voor het detecteren, extraheren en analyseren van watermerken die zijn ingebed in door LLM's gegenereerde tekst voor herkomsttracering en forensische attributie.
Capstone: bouw een tool voor AI-supply chain-beveiliging
Build a tool that scans, audits, and monitors the security of AI/ML supply chains including model provenance, dependency integrity, and artifact verification.
Juli 2026: supply chain-audit-uitdaging
Audit an ML project's entire supply chain for security issues including dependencies, model provenance, data pipelines, training infrastructure, and deployment artifacts.
Aanvallen op dataprovenance
Compromising training data integrity by attacking provenance tracking systems, falsifying data lineage, and manipulating data pipeline metadata.
Ontwijken van watermerken en fingerprints
Deep dive into detecting and removing output watermarks, degrading weight watermarks, evading model fingerprinting, building provenance-stripping pipelines, and understanding the legal landscape of model ownership verification.
AI-watermerken en aanvallen daarop
Current AI watermarking schemes for model outputs and training data, their security properties, and known attacks that remove, forge, or evade watermarks.
Herkomstregistratie van uitvoer
Systemen voor het bijhouden van de herkomst van LLM-uitvoer om hallucinatie, datalekkage en instructie-injectie te detecteren.
LLM-output watermerken voor herkomst
Geavanceerde technieken voor het watermerken van door LLM gegenereerde tekst om herkomst vast te stellen, inclusief deployment-architecturen, multi-bit-coderingsschema's, robuustheidsoverwegingen en de rol van watermerken in raamwerken voor AI-security en verantwoording.
Output Watermarking as Defense
Het gebruik van output-watermarking voor het traceren van de herkomst van inhoud en het detecteren van misbruik in LLM-applicaties.
Model Signing and Verification
Defense-focused guide to implementing cryptographic model signing and verification, covering Sigstore for ML, certificate management, SBOM generation for AI systems, and deployment-time verification workflows.
Integriteit van trainingsdata
Defense-focused guide to ensuring training data has not been poisoned, covering label flipping, backdoor insertion, clean-label attacks, data validation pipelines, provenance tracking, and anomaly detection.
Integriteit van ML-artefacten
Ensuring integrity of ML artifacts throughout the pipeline: hash verification strategies, signed artifact workflows, reproducible builds for ML, deterministic training challenges, and end-to-end artifact provenance.
Modelondertekening en herkomst
Cryptographic signing for ML models: Sigstore for ML artifacts, cosign for model weights, SLSA framework applied to ML pipelines, supply chain levels for model provenance, and practical implementation of model artifact verification.
Aanvallen op synthetische-datapipelines
Aanvallen op pipelines voor het genereren van synthetische data: modelinstorting door synthetische feedbackloops, vergiftiging van synthetische-datageneratoren, omzeiling van kwaliteitscontrole en aanvallen op dataherkomst.
Technieken voor watermerkverwijdering
Technieken voor het verwijderen van AI-watermerken: parafraseringsaanvallen, tokensubstitutie, verstoring van de embedding-ruimte, en implicaties voor modelherkomst en verantwoordingsplicht.
Aanvallen op de herkomst van trainingsdata
Attacking training data provenance and attribution systems to inject unverified data sources.
Walkthrough: beveiligingsaudit van Hugging Face
Step-by-step walkthrough for auditing Hugging Face models: scanning for malicious model files, verifying model provenance, assessing model card completeness, and testing Spaces and Inference API security.