# supply-chain
87 artikelengetagd met “supply-chain”
Supply chain-aanvallen op agents
AI-agents compromitteren via vergiftigde packages, MCP-servers met een backdoor, kwaadaardige model-registries en geweaponiseerde agent-frameworks -- inclusief de Postmark MCP-inbraak en de NullBulge-campagnes.
Supply chain-beveiliging van MCP: verdedigen tegen MCP-packages met backdoors
Een verdedigingsgerichte handleiding om de supply chain van MCP-packages te beveiligen -- met een analyse van het Postmark MCP-lek, inzicht in hoe kwaadaardige MCP-servers worden verspreid, en het implementeren van packageverificatie, dependency scanning en policy enforcement.
Incident Response voor de AI-toeleveringsketen
Incident response-procedures voor compromittering in de AI-toeleveringsketen, waaronder modelrepository's, trainingspijplijnen en dependency-ketens.
Model Tampering Detection
Manipulatie van modelbestanden detecteren: verificatie van gewichtshashes, validatie van architectuur, inspectie van adapters, verificatie van kwantisatie en integriteitscontroles van de toeleveringsketen.
Incident Response-playbook voor modelcompromittering
Playbook voor het reageren op een gecompromitteerd AI-model: isolatieprocedures, vervangingsstrategieën, onderzoek van de toeleveringsketen, overwegingen voor hertraining en integriteitsherstel.
Forensics van trainingsdata-herkomst
Forensische technieken voor het traceren van de oorsprong, herkomst en integriteit van trainingsdata die in machine learning-modellen worden gebruikt.
Oefenexamen 3: Expert Red Team
Oefenexamen van 25 vragen op expertniveau over onderzoekstechnieken, automatisering, fine-tuning-aanvallen, toeleveringsketenbeveiliging en incidentrespons.
Beoordeling infrastructuurbeveiliging (beoordeling)
Test your knowledge of AI infrastructure security including model serving, API security, deployment architectures, and supply chain risks with 10 intermediate-level questions.
Beoordeling van de model-supply chain
Assessment covering model provenance, checkpoint manipulation, and third-party model risks.
Capstone: Beveiligingsaudit van een open-source LLM
Voer een uitgebreide beveiligingsaudit uit van een open-source groot taalmodel, met aandacht voor de integriteit van modelgewichten, evaluatie van safety-alignment, verificatie van de toeleveringsketen en het testen van adversarial robuustheid.
Capstone: AI-beveiliging van de supply chain
Red team assessment of AI-driven supply chain optimization covering data poisoning, decision manipulation, and operational disruption.
Capstone: bouw een tool voor AI-supply chain-beveiliging
Build a tool that scans, audits, and monitors the security of AI/ML supply chains including model provenance, dependency integrity, and artifact verification.
Casestudy: code injection bij GitHub Copilot
Analysis of prompt injection vulnerabilities in GitHub Copilot through malicious repository content.
Casestudy: GitHub Copilot die kwetsbare code genereert
Analysis of research findings demonstrating that GitHub Copilot and similar AI code assistants systematically generate code containing security vulnerabilities, and the implications for software supply chain security.
Casestudy: remote code execution-kwetsbaarheden in LangChain (CVE-2023-29374 en CVE-2023-36258)
Technical analysis of critical remote code execution vulnerabilities in LangChain's LLMMathChain and PALChain components that allowed arbitrary Python execution through crafted LLM outputs.
Casestudy: vergiftiging van trainingsdata in codegeneratiemodellen
Analysis of training data poisoning attacks targeting code generation models like GitHub Copilot and OpenAI Codex, where adversarial code patterns in training data cause models to suggest vulnerable or malicious code.
Beveiligingsrisico's van cloud AI-modelmarktplaatsen
Assessing security risks in cloud AI model marketplaces including AWS Bedrock Model Garden, Azure AI Model Catalog, GCP Vertex AI Model Garden, and Hugging Face Hub, covering supply chain attacks, trojan models, and verification gaps.
Beveiliging van cloud-modelregisters
Security of cloud model registries including SageMaker Model Registry, Azure ML Registry, and Vertex AI Model Registry.
Risico's van Model Garden
Security risks of deploying models from GCP Model Garden: third-party model trust, model provenance verification, deployment from untrusted sources, and supply chain attack vectors.
AI-gegenereerde dependency confusion
Exploiting LLM tendency to hallucinate package names for dependency confusion attacks.
Aanvallen via IDE-extensies
Attack surface analysis for IDE extensions: malicious extensions, extension-to-extension communication, telemetry exfiltration, and workspace trust exploitation.
Supply chain-risico's bij AI-codegeneratie
Analysis of supply chain attack vectors introduced by AI code generation tools, including dependency confusion, typosquatting, and training data poisoning.
Aanvallen via dependency-suggesties
Manipulating AI coding assistants to suggest malicious dependencies, typosquatted packages, or vulnerable library versions.
Beveiliging van codegeneratie
How AI coding assistants introduce security vulnerabilities through suggestion poisoning, training data extraction, insecure code generation, and IDE extension risks.
Beveiliging van door LLM gegenereerde Dockerfiles
Analyzing security vulnerabilities commonly introduced by AI-generated Dockerfiles and container configurations.
Poisoning van codesuggesties
Overview of attacks that manipulate AI coding assistant suggestions through training data poisoning and inference-time context manipulation.
Aanvallen op trainingsdata van codemodellen
Poisoning training data for code generation models: inserting vulnerable patterns into popular repositories, dependency confusion via suggestions, and trojan code patterns.
Vergiftiging van repositorycontext
Poisoning repository context (README, comments, issues) to influence code generation behavior.
Juli 2026: supply chain-audit-uitdaging
Audit an ML project's entire supply chain for security issues including dependencies, model provenance, data pipelines, training infrastructure, and deployment artifacts.
Aanvallen op dataprovenance
Compromising training data integrity by attacking provenance tracking systems, falsifying data lineage, and manipulating data pipeline metadata.
Dataprovenance en lineage
Tracking data through ML pipelines, detecting contamination, verifying data integrity, and implementing provenance systems for training data security.
Fine-tuning-datasets vergiftigen
Techniques for inserting backdoor triggers into fine-tuning datasets, clean-label poisoning that evades content filters, and scaling attacks across dataset sizes -- how adversarial training data compromises model behavior.
Injection van kwaadaardige adapters
How attackers craft LoRA adapters containing backdoors, distribute poisoned adapters through model hubs, and exploit adapter stacking to compromise model safety -- techniques, detection challenges, and real-world supply chain risks.
Repository-Vergiftiging voor Codemodellen
Technieken voor het vergiftigen van code-repositories om codegeneratiemodellen te beïnvloeden, waaronder vergiftiging van trainingsdata via populaire repositories, injectie van backdoors in open-source dependencies, en supply chain-aanvallen gericht op trainingspijplijnen van codemodellen.
Vergiftiging van Codesuggesties (Frontier Research)
Het vergiftigen van trainingsdata en pakket-ecosystemen om AI-codesuggesties te beïnvloeden: seeding van onveilige patronen, verwarring van pakketnamen, injectie van trojan-code, en supply chain-risico's.
Open-Source Model Governance
Governance frameworks for organizations using open-source AI models including security vetting and supply chain risks.
AI-supplychaingovernance
Governancekaders voor het beheersen van risico's van modellen van derden, trainingsdata en afhankelijkheden van AI-diensten.
Governance van de AI-supply chain (governance-compliance)
Governance frameworks for managing AI supply chain risks including model providers, data sources, and integrations.
AI-supply chain-beveiliging
Security of AI-powered supply chain management, demand forecasting, and logistics optimization systems.
AI-dreigingen voor voedselveiligheid
Threat analysis for AI in food safety including supply chain monitoring, quality inspection, and recall prediction.
Incidentrespons bij AI-toeleveringsketens
Defensiegerichte gids voor het reageren op compromittering van AI-toeleveringsketens, met incidentrespons-playbooks, detectie van modelmanipulatie, rollbackprocedures, communicatiesjablonen en geautomatiseerde integriteitsmonitoring.
Overzicht beveiliging AI-toeleveringsketen
Uitgebreid overzicht van het aanvalsoppervlak van de AI/ML-toeleveringsketen, met modelvergiftiging, datavergiftiging, afhankelijkheidsaanvallen en risicobeoordelingsframeworks afgestemd op OWASP LLM03:2025.
Dependency-scanning voor AI/ML
Defensiegerichte gids voor het scannen van AI/ML-dependencies op kwetsbaarheden, met aandacht voor AI-specifieke dependency-risico's, detectie van kwaadaardige packages, geautomatiseerde scanpipelines en policy-handhaving voor ML-toolchains.
AI Infrastructure Security
Overzicht van beveiligingszorgen in AI-infrastructuur, met aandacht voor model-supplychains, API-beveiliging, deployment-architectuur en de unieke aanvalsoppervlakken van ML-systemen.
Deep Supply Chain Analysis
Uitgebreide analyse van de dependencyboom van de AI-supplychain, met aandacht voor modelgewichten, tokenizers, datasets, bibliotheken en infrastructuurcomponenten, inclusief auditmethodologie.
ML CI/CD-pijplijnen aanvallen
Geavanceerde technieken voor het compromitteren van ML-pijplijnen voor continue integratie en deployment, waaronder pijplijninjectie, artefactmanipulatie, het kapen van trainingsjobs en het uitbuiten van de unieke vertrouwensgrenzen in geautomatiseerde ML-workflows.
ML Pipeline Security
Defense-focused guide to securing ML training and deployment pipelines, covering CI/CD cross-tenant attacks, safetensors conversion hijacking, pipeline hardening, and isolated build environments.
ML Pipeline Supply Chain-beveiliging
Het beveiligen van de ML-pijplijn-supply-chain, van trainingsframework-dependencies tot serving-infrastructuurcomponenten.
Beveiliging van dynamisch modelladen in productie
Analyse van de risico's van hot-swapping, dynamisch laden en A/B-testen van ML-modellen in productie-serving-infrastructuur
Model-registries vergiftigen
Geavanceerde technieken voor het aanvallen van model-registries zoals MLflow, Weights & Biases en Hugging Face Hub, waaronder modelvervangingsaanvallen, metadata-manipulatie, artefactvergiftiging en supply chain-compromittering via registry-infrastructuur.
Model Repository Security
Defense-focused guide to securing model downloads from public repositories like Hugging Face, covering backdoored model detection, namespace attacks, signature verification, and safe download procedures.
Model Serialization Attacks
Pickle, SafeTensors, and ONNX deserialization attacks targeting ML model files for arbitrary code execution.
Model Signing and Verification
Defense-focused guide to implementing cryptographic model signing and verification, covering Sigstore for ML, certificate management, SBOM generation for AI systems, and deployment-time verification workflows.
Model Supply Chain Risks
Attack vectors in the AI model supply chain, including malicious model files, pickle exploits, compromised model registries, and dependency vulnerabilities.
AI Supply Chain Exploitation
Methodologie voor het uitbuiten van de AI/ML-supply-chain: RCE via modelserialisatie, dependency confusion, datasetvergiftiging, CI/CD-injectie en container escape.
AI-supply-chain: een diepe duik
Diepgaande analyse van security-dreigingen in de AI-supply-chain, waaronder sleeper agents, slopsquatting, kwaadaardige modeluploads, pickle-deserialisatie-exploits en uitdagingen bij de verificatie van modelherkomst.
Supply-chain-security voor ML-afhankelijkheden
Het beveiligen van de ML-supply-chain van afhankelijkheden, waaronder PyTorch, transformers en het downloaden van modelgewichten.
Integriteit van trainingsdata
Defense-focused guide to ensuring training data has not been poisoned, covering label flipping, backdoor insertion, clean-label attacks, data validation pipelines, provenance tracking, and anomaly detection.
Trojan-modeldetectie
Defensiegerichte gids voor het detecteren van AI-modellen met backdoors en trojans, met BadEdit-, TrojanPuzzle- en PoisonGPT-technieken en praktische detectiemethoden zoals activatieanalyse, gewichtsinspectie en gedragstesten.
Lab: poisoning van de model-supply chain
Simulate model supply chain attacks by injecting backdoors into model weights distributed through public registries.
Supply Chain Saboteur: niveau 2 — model registry
Compromise a model registry to inject backdoored model weights into a deployment pipeline.
CTF: Supply Chain Saboteur
Identify and exploit supply chain vulnerabilities in a model deployment pipeline. Find poisoned models, exploit malicious packages, and compromise the ML infrastructure.
CTF: supply chain-aanval
Find and exploit vulnerabilities in an ML supply chain including compromised dependencies, poisoned models, backdoored training data, and malicious model files. Practice ML-specific supply chain security assessment.
Supply Chain Detective: vind de backdoor
Analyze a model pipeline to find where a backdoor was inserted — data, training, or post-processing.
Lab: poisoning van de ML-pijplijn
Compromise an end-to-end machine learning pipeline by attacking data ingestion, preprocessing, training, evaluation, and deployment stages. Learn to identify and exploit weaknesses across the full ML lifecycle.
Lab: compromittering van het model registry
Explore techniques for compromising model registries and substituting malicious models into production pipelines. Learn to detect model tampering, verify model provenance, and secure the model supply chain.
Lab: supply chain-audit
Audit an ML project's dependencies for vulnerabilities, covering model files, Python packages, container images, and training data provenance.
Lab: scan van de ML-supply chain
Hands-on lab for auditing machine learning model dependencies, detecting malicious packages in ML pipelines, and scanning model files for backdoors and supply chain threats.
Simulatie: audit van een open source-AI-project
Security audit simulation for an open-source AI application, covering code review, dependency analysis, model supply chain verification, and deployment configuration review.
Simulatie: onderzoek naar een AI-supply chain-aanval
Investigate and respond to a supply chain compromise affecting an AI system's model weights, training data pipeline, and third-party dependencies.
Assessment van de AI-supply chain-pipeline
Assess the full ML pipeline from data ingestion through model deployment for supply chain attacks.
AI-beoordeling van supply chain-optimalisatie
Assess an AI supply chain optimization system for manipulation of demand forecasts and routing decisions.
Modelondertekening en herkomst
Cryptographic signing for ML models: Sigstore for ML artifacts, cosign for model weights, SLSA framework applied to ML pipelines, supply chain levels for model provenance, and practical implementation of model artifact verification.
Registry-specifieke aanvallen
Attack techniques targeting model registries: version confusion, dependency resolution exploitation, namespace squatting, model aliasing attacks, and practical exploitation of registry trust models.
Indirecte prompt injection
Hoe aanvallers kwaadaardige instructies verstoppen in externe databronnen die LLM's verwerken, waardoor aanvallen mogelijk worden zonder directe toegang tot de invoer van het model.
Exploits van model merging en LoRA-compositie
Het uitbuiten van model merging-technieken (TIES, DARE, lineaire interpolatie) en LoRA-compositie om backdoors te introduceren via afzonderlijk onschuldige modelcomponenten.
Aanvallen op de model-supply-chain
Uitgebreide analyse van aanvalsvectoren op de model-supply-chain, van trainingsdata tot en met deployment.
Aanvallen op modelcheckpoints en -herstel
Kwetsbaarheden in checkpointbestandsformaten, modificatie-aanvallen op safetensors- en PyTorch-formaten, checkpointvergiftiging, opslagbeveiliging en supply-chain-implicaties.
Training Loop-kwetsbaarheden
Aanvallen op het trainingsproces zelf, waaronder gradiëntmanipulatie, manipulatie van de verliesfunctie, aanvallen op het learning-rate-schema en compromittering van de trainingsinfrastructuur.
Vergiftigingsaanvallen op synthetische trainingsdata
Uitgebreide analyse van vergiftigingsvectoren in pipelines voor het genereren van synthetische data, van manipulatie van het teacher-model tot het ontwijken van filtering na generatie.
Beveiliging van trainingscheckpoints
Dreigingsanalyse van de opslag, serialisatie en herstel van modelcheckpoints, waaronder checkpointvergiftiging, deserialisatie-aanvallen en integriteitsverificatie.
Supply chain-aanval op de model hub
Attacking the ML model supply chain through hub repositories like Hugging Face, including typosquatting, model poisoning, and repository manipulation techniques.
RCE via modelserialisatie
Remote code execution through malicious model files using pickle deserialization, safetensors manipulation, and other model serialization format vulnerabilities.
Walkthrough van prompt injection via de supply chain
Plant injection payloads in upstream data sources consumed by LLM applications including packages and documentation.
Volledige opdracht: AI-optimalisator voor de supply chain
End-to-end engagement for a supply chain AI with access to logistics, inventory, and supplier management systems.
Walkthrough: beveiligingsaudit van Hugging Face
Step-by-step walkthrough for auditing Hugging Face models: scanning for malicious model files, verifying model provenance, assessing model card completeness, and testing Spaces and Inference API security.
Hugging Face Hub Red Team-walkthrough
Walkthrough voor het beoordelen van AI-modellen op Hugging Face Hub: beveiligingsassessment van modellen, scannen op kwaadaardige modellen, testen met de Transformers-library, en evaluatie van Spaces-applicaties.