# pipeline
31 artikelengetagd met “pipeline”
Haystack-pipeline-exploitatie
Het exploiteren van Haystacks pipeline-architectuur voor componentinjectie en manipulatie van de datastroom.
Oefenexamen beveiliging van de trainingspijplijn
Practice exam on data poisoning, RLHF exploitation, fine-tuning attacks, and supply chain risks.
Vaardigheidsverificatie: beveiliging van de trainingspijplijn
Skill verification for data poisoning, RLHF exploitation, and fine-tuning attack techniques.
Aanvalsoppervlak van Vertex AI
Red team methodology for Vertex AI: prediction endpoint abuse, custom training security gaps, feature store poisoning, model monitoring evasion, and pipeline exploitation.
Risico's van codegeneratie in CI/CD (codegeneratie-beveiliging)
Security risks of AI-generated code in CI/CD pipelines including automated merge attacks, test generation manipulation, and pipeline injection.
Pijplijn voor payloadgeneratie
Bouw een geautomatiseerde pijplijn voor het genereren, muteren en testen van prompt injection payloads.
Continuous Automated Red Teaming (CART)
CART-pipelines ontwerpen voor doorlopende AI-beveiligingsvalidatie: architectuur, testsuites, telemetrie, alerting, regressiedetectie en CI/CD-integratie.
Red team-infrastructuur en tooling
AI red team C2-frameworks, geautomatiseerde aanvalspipelines, ontwikkeling van eigen scanners en integratie met Cobalt Strike, Mythic en Sliver.
ML Pipeline Security
Defense-focused guide to securing ML training and deployment pipelines, covering CI/CD cross-tenant attacks, safetensors conversion hijacking, pipeline hardening, and isolated build environments.
ML Pipeline Supply Chain-beveiliging
Het beveiligen van de ML-pijplijn-supply-chain, van trainingsframework-dependencies tot serving-infrastructuurcomponenten.
Lab: multimodale aanvalspijplijn
Build an automated multimodal attack pipeline that generates adversarial images, combines them with text prompts, and tests against vision-language models (VLMs).
Lab: poisoning van de ML-pijplijn
Compromise an end-to-end machine learning pipeline by attacking data ingestion, preprocessing, training, evaluation, and deployment stages. Learn to identify and exploit weaknesses across the full ML lifecycle.
Lab: geautomatiseerde red team-pijplijn
Hands-on lab for building a continuous AI red team testing pipeline using promptfoo, GitHub Actions, and automated attack generation to catch safety regressions before deployment.
Lab voor aanvallen op multi-modelpijplijnen
Attack a pipeline where multiple models process data sequentially, exploiting trust between pipeline stages.
Assessment van de AI-supply chain-pipeline
Assess the full ML pipeline from data ingestion through model deployment for supply chain attacks.
Aanvallen op de deploymentpipeline
Comprehensive analysis of attack vectors in ML deployment pipelines including build system compromise, artifact tampering, and deployment manipulation.
Aanvallen op de continue trainingspipeline
Continue-leer- en online-trainingspipelines exploiteren via manipulatie van streaming data.
Manipulatie van instruction-tuning-data
Het manipuleren van instruction-tuning-datasets om specifiek gedrag in het resulterende model in te bedden.
Beveiliging van kennisdistillatie
Beveiligingsimplicaties van kennisdistillatie, waaronder capaciteitsextractie en overdracht van safety-alignment.
Beveiligingsanalyse van model merging (trainingspipeline)
Beveiligingsanalyse van model-merging-technieken en de voortplanting van kwetsbaarheden via samengevoegde modellen.
Vergiftiging van voorkeursdata (Training Pipeline)
Het vergiftigen van voorkeursdata gebruikt in RLHF en DPO om de alignment van het model richting de doelstellingen van de aanvaller te verschuiven.
Uitbuiting van de RLHF-pipeline
Het uitbuiten van de training van reward-modellen, het verzamelen van voorkeursdata en de optimalisatielussen van RLHF.
Aanvallen op de synthetische-datapipeline (Training Pipeline)
Het aanvallen van pipelines voor het genereren van synthetische data die worden gebruikt voor modeltraining en -augmentatie.
Aanvallen op de herkomst van trainingsdata
Attacking training data provenance and attribution systems to inject unverified data sources.
Walkthrough: injection bij batchverwerking
Inject payloads through batch processing pipelines where individual items are processed without isolation.
Invoervalidatie in meerdere lagen
Step-by-step walkthrough for building a defense-in-depth input validation pipeline that combines regex matching, semantic similarity, ML classification, and rate limiting into a unified validation system for LLM applications.
Ontwerp van een uitvoerfilterpijplijn
Design and implement a multi-stage output filtering pipeline for LLM applications.
Architectuur van een veilige RAG-pijplijn
Build a secure RAG pipeline with document sanitization, retrieval validation, and injection-resistant augmentation.
Een pipeline voor output-scanning bouwen
Build a production output scanning pipeline that detects data leakage, harmful content, and injection artifacts.
Volledige opdracht: documentverwerkingspijplijn
Full engagement of an AI document processing pipeline handling invoices, contracts, and compliance documents.
Continue AI-redteaming-pijplijnen opzetten
Walkthrough for building continuous AI red teaming pipelines that automatically test LLM applications on every deployment, covering automated scan configuration, CI/CD integration, alert thresholds, regression testing, and dashboard reporting.