# automation
50 artikelengetagd met “automation”
Geautomatiseerde triage van AI-incidenten
Geautomatiseerde triagesystemen bouwen voor AI-beveiligingsincidenten met op regels gebaseerde engines, anomaliedetectie en LLM-ondersteunde classificatie.
Oefenexamen 3: Expert Red Team
Oefenexamen van 25 vragen op expertniveau over onderzoekstechnieken, automatisering, fine-tuning-aanvallen, toeleveringsketenbeveiliging en incidentrespons.
Toetsing toolvaardigheid
Test je kennis van AI-red-teaming-tools, frameworks, automatiseringsplatforms en hun juiste toepassing in beveiligingsbeoordelingen met 9 vragen op gemiddeld niveau.
Vaardigheidsverificatie: red team-automatisering
Practical verification of red team automation skills using Garak, PyRIT, and custom tooling.
Studiegids gevorderde onderwerpen
Study guide covering AI security research techniques, automation, forensics, emerging attack vectors, and tool development for advanced practitioners.
Capstone: bouw een compleet AI-redteaming platform
Design and implement a comprehensive AI red teaming platform with automated attack orchestration, vulnerability tracking, and collaborative reporting.
Capstone: bouw een AI-beveiligingsscanner
Design and implement an automated AI security testing tool that supports prompt injection detection, jailbreak testing, and output analysis.
Compliance-automatisering voor cloud-AI
Automating AI compliance checks and security assessments using cloud-native tools and policy-as-code approaches.
Rotatie van secrets voor cloud AI-deployments
Implementing automated secrets rotation strategies for API keys, model endpoint credentials, and service accounts used in cloud AI/LLM deployments across AWS, Azure, and GCP.
AI-risico's in CI/CD-pipelines
Security implications of integrating AI into CI/CD pipelines — covering AI-powered code generation in builds, automated testing risks, deployment decision manipulation, and pipeline hardening.
Automatisering van LLM-beveiligingstesten
Het bouwen van geautomatiseerde beveiligingstestpijplijnen voor LLM-applicaties met CI/CD-integratie en continue scanning.
Framework voor aanvalsautomatisering
End-to-end frameworks bouwen voor aanvalsautomatisering die verkenning, payload-generatie, uitvoering en resultaatanalyse orkestreren.
Automatisering van redteaming
Frameworks en tools voor het op schaal automatiseren van AI-redteaming, inclusief CART-pipelines, jailbreak-fuzzing, regressietests en continue monitoring.
Custom red team-tools bouwen
Handleiding voor het bouwen van custom AI-redteaming tools, inclusief targetspecifieke harnesses, pipelines voor resultaatanalyse en integratie met bestaande beveiligingsworkflows.
Exploitketen-builder
Tools bouwen die automatisch meerdere kwetsbaarheden ontdekken en aan elkaar koppelen tot complete exploitatiepaden voor complexe LLM-systemen.
Overzicht: ontwikkeling van AI-exploits
Een introductie tot het ontwikkelen van exploits en tooling voor AI-redteaming, met de unieke uitdagingen van het bouwen van betrouwbare aanvallen tegen probabilistische systemen.
Automatisering van red team-rapportage
Het genereren van rapporten automatiseren op basis van testdata en bevindingen uit red teaming.
Continuous Automated Red Teaming (CART)
CART-pipelines ontwerpen voor doorlopende AI-beveiligingsvalidatie: architectuur, testsuites, telemetrie, alerting, regressiedetectie en CI/CD-integratie.
Red team-infrastructuur en tooling
AI red team C2-frameworks, geautomatiseerde aanvalspipelines, ontwikkeling van eigen scanners en integratie met Cobalt Strike, Mythic en Sliver.
Ontwikkeling van een rapportagetool
Bouw geautomatiseerde rapportagetools die ruwe testresultaten omzetten in professionele assessment-rapporten met reproduceerbare bevindingen.
Continue compliancemonitoring
Geautomatiseerde compliancemonitoring voor AI-systemen, waaronder continue compliancechecks, driftdetectie, het volgen van regelgevingswijzigingen en integratie met red team-testpijplijnen.
Evaluatieharnassen bouwen
Ontwerp en implementeer evaluatieharnassen voor AI-red-teaming: architectuurpatronen, selectie van judge-modellen, beheer van prompt-datasets, scoringspijplijnen en reproduceerbare evaluatie-infrastructuur.
AI-beveiliging voor mijnbouw en grondstoffenwinning
AI security in mining operations including autonomous equipment, geological modeling, and safety systems.
ML CI/CD-pijplijnen aanvallen
Geavanceerde technieken voor het compromitteren van ML-pijplijnen voor continue integratie en deployment, waaronder pijplijninjectie, artefactmanipulatie, het kapen van trainingsjobs en het uitbuiten van de unieke vertrouwensgrenzen in geautomatiseerde ML-workflows.
Geautomatiseerde jailbreak-pipelines
Geautomatiseerde jailbreak-systemen bouwen met PAIR, TAP, AutoDAN en eigen pipeline-architecturen voor systematische evaluatie van AI-veiligheid.
Injection-onderzoek
Geavanceerd onderzoek naar prompt injection, jailbreak-automatisering en multimodale aanvalsvectoren, met state-of-the-art technieken die verder gaan dan de standaard injectiebenaderingen.
Jailbreak-onderzoek en -automatisering
Taxonomie van jailbreak-primitives, crescendo-aanvallen, many-shot jailbreaking en geautomatiseerde jailbreak-generatie met TAP en PAIR.
Lab: red team-orchestratie
Build an orchestration system that coordinates multiple attack strategies simultaneously, managing parallel attack campaigns and synthesizing results into comprehensive risk assessments.
Lab: veiligheidsregressietesten op schaal
Build automated pipelines that detect safety degradation across model versions, ensuring that updates and fine-tuning do not introduce new vulnerabilities or weaken existing protections.
Lab: een eenvoudige test-harness bouwen
Build a reusable Python test harness that automates sending test prompts, recording results, and calculating attack success metrics.
Lab: bouw jailbreak-automatisering
Build an automated jailbreak testing framework that generates, mutates, and evaluates attack prompts at scale. Covers prompt mutation engines, success classifiers, and campaign management for systematic red team testing.
Lab: geautomatiseerde red team-pijplijn
Hands-on lab for building a continuous AI red team testing pipeline using promptfoo, GitHub Actions, and automated attack generation to catch safety regressions before deployment.
Lab: een LLM-judge-evaluator bouwen
Hands-on lab for building an LLM-based evaluator to score red team attack outputs, compare model vulnerability, and lay the foundation for automated attack campaigns.
Simulatie: defense in depth
Expert-level defense simulation implementing a full defense stack including input filter, output monitor, rate limiter, anomaly detector, and circuit breaker, then measuring effectiveness against automated attacks.
Beveiliging van ML-CI/CD
Security overview of ML continuous integration and deployment pipelines: how ML CI/CD differs from traditional CI/CD, unique attack surfaces in training workflows, and the security implications of automated model building and deployment.
Custom AI red team-tools ontwikkelen
Guide to designing, building, and maintaining custom tools for AI red team engagements.
Continue redteaming voor AI-systemen in productie
Implementing ongoing, automated red teaming programs for AI systems in production environments.
Strategie voor red team-automatisering
When and how to automate AI red teaming: tool selection, CI/CD integration, continuous automated red teaming (CART), human-in-the-loop design, and scaling assessment coverage through automation.
Automatisering van injection-ketens
Het automatiseren van het ontdekken en aaneenketenen van meerdere injectietechnieken om betrouwbare aanvalssequenties over meerdere stappen tegen geharde doelen te maken.
Technieken voor extractie van de systeemprompt
Catalogus van methoden voor extractie van de systeemprompt bij LLM-gestuurde applicaties: directe aanvallen, indirecte technieken, multi-turn-strategieën en defensieve ontwijking.
Programma's voor continue redteaming
Doorlopende AI-redteamprogramma's ontwerpen en uitvoeren met geautomatiseerde testpijplijnen, metric-dashboards, KPI-frameworks, alert-gedreven assessments en integratie met CI/CD- en modeldeploymentworkflows.
Geautomatiseerde testpipeline voor verdediging
Build an automated pipeline that continuously tests defensive measures against evolving attack techniques.
Continue AI-redteaming-pijplijnen opzetten
Walkthrough for building continuous AI red teaming pipelines that automatically test LLM applications on every deployment, covering automated scan configuration, CI/CD integration, alert thresholds, regression testing, and dashboard reporting.
Uitgebreide testplannen voor AI-beveiliging ontwikkelen
Step-by-step guide to developing structured test plans for AI red team engagements, covering test case design, automation strategy, coverage mapping, and execution scheduling.
Walkthrough: Counterfit
Complete walkthrough of Microsoft's Counterfit adversarial ML testing framework: installation, target configuration, running attacks against ML models, interpreting results, and automating adversarial robustness assessments.
Garak integreren in CI/CD-pijplijnen
Intermediate walkthrough on automating garak vulnerability scans within CI/CD pipelines, including GitHub Actions, GitLab CI, threshold-based gating, result caching, and cost management strategies.
End-to-end walkthrough van garak
Complete walkthrough of NVIDIA's garak LLM vulnerability scanner: installation, configuration, running probes against local and hosted models, interpreting results, writing custom probes, and CI/CD integration.
Red team-evaluaties automatiseren met Promptfoo
Complete walkthrough for setting up automated red team evaluation pipelines using Promptfoo, covering configuration, custom evaluators, adversarial dataset generation, CI integration, and result analysis.
Red team-automatisering met Python
Building custom AI red team automation with Python: test harnesses with httpx and aiohttp, result collection and analysis, automated reporting, and integration with existing tools like promptfoo and garak.
Geautomatiseerde generatie van red team-rapporten
Build an automated system for generating structured red team reports from testing data and findings.