# security
148 artikelengetagd met “security”
Misbruik van agents en agentic systemen
Beveiligingsoverzicht van autonome AI-agents, met aandacht voor het vergrote aanvalsoppervlak dat ontstaat door tool-gebruik, persistent geheugen, redeneren in meerdere stappen en coördinatie tussen meerdere agents.
AutoGen-beveiligingsanalyse
Beveiligingsanalyse van Microsofts AutoGen-framework voor de exploitatie van multi-agentgesprekken.
LangChain Security Deep Dive
Uitgebreide beveiligingsanalyse van LangChain, inclusief bekende CVE's en exploitatiepatronen.
Security-analyse van LlamaIndex-agents
Security-beoordeling van LlamaIndex-agentimplementaties, inclusief kwetsbaarheden in tool use, geheugen en de query-pipeline.
DSPy-security-analyse
Security-analyse van het DSPy-framework, inclusief exploitatie van prompt-optimalisatie en pipeline-injectie.
Security-analyse van Haystack-pipelines
Security-analyse van deepset Haystack RAG-pipelines, inclusief componentinjectie en data-exfiltratie.
smolagents-security-analyse
Security-analyse van Hugging Face smolagents, inclusief code-uitvoeringsrisico's en vertrouwensgrenzen voor tools.
Beveiligingsanalyse van MCP SSE-transport
Beveiligingsanalyse van Server-Sent Events-transport in MCP, inclusief herverbindingsaanvallen en event-injectie.
MCP-transportlaag-kwetsbaarheden
Analyse van beveiligingskwetsbaarheden in MCP-transportlagen, waaronder stdio, SSE en HTTP-streaming.
A2A-protocolbeveiligingsanalyse
Beveiligingsanalyse van Google's Agent-to-Agent-protocol, inclusief authenticatie, taakdelegatie en vertrouwensgrenzen.
Geavanceerd AI-beveiliging oefenexamen 1
Advanced practice exam covering agentic exploitation, training attacks, and frontier research.
Geavanceerd AI-beveiliging oefenexamen 2
Second advanced practice exam focusing on multimodal, cloud, and pipeline security.
Agentbeveiliging oefenexamen
Practice exam focused on agentic AI security including MCP, A2A, function calling, and multi-agent threats.
Beveiligingsassessment van cloud-AI (assessment)
Assessment covering AWS Bedrock, Azure OpenAI, GCP Vertex AI security configurations and threats.
Beveiligingsassessment van codegeneratie
Assessment on code assistant exploitation, insecure code generation, and code review AI attacks.
Beoordeling infrastructuurbeveiliging
Assessment covering model serving, container security, API gateway hardening, and deployment pipeline threats.
Beoordeling van LLMOps-beveiliging
Assessment covering model deployment security, monitoring, CI/CD pipeline hardening, and operational threats.
Beveiligingsassessment van AI-infrastructuur
Assessment covering model serving, API gateways, container security, and GPU isolation.
Vaardigheidsverificatie: infrastructuurbeveiliging
Hands-on verification of cloud and infrastructure security assessment skills for AI deployments.
Studiegids agentbeveiliging
Comprehensive study guide for agent and agentic exploitation topics including MCP and A2A protocols.
Studiegids infrastructuurbeveiliging
Study guide for AI infrastructure security covering cloud, container, and deployment pipeline topics.
Studiegids multimodale beveiliging
Study guide for multimodal attack and defense topics covering image, audio, and document modalities.
Capstone: voer een volledige beveiligingsaudit van een model uit
Perform a comprehensive security audit of an LLM deployment covering model behavior, API security, data handling, access controls, and compliance alignment.
Capstone: uitgebreid beveiligingsassessment van RAG
Conduct a thorough security assessment of a Retrieval-Augmented Generation system, testing document poisoning, retrieval manipulation, context window attacks, and data exfiltration vectors.
Capstone: bouw een tool voor AI-supply chain-beveiliging
Build a tool that scans, audits, and monitors the security of AI/ML supply chains including model provenance, dependency integrity, and artifact verification.
Domeinspecifieke AI-beveiliging
Overview of AI security challenges across industry verticals including healthcare, finance, autonomous vehicles, content moderation, education, and customer service. Domain-specific threat models, regulations, and testing approaches.
Opmerkelijke AI-beveiligingsincidenten
A comprehensive timeline and analysis of major AI security incidents, from Bing Chat jailbreaks to ChatGPT data leaks and agent exploitation in the wild. Root cause analysis and impact assessment for each incident.
Beveiliging van LangChain en LlamaIndex
Security analysis of popular LLM orchestration frameworks. Common misconfigurations, known CVEs, insecure defaults, and hardening guides for LangChain, LlamaIndex, and related LLM application frameworks.
Beveiliging van AWS Bedrock Agents
Security assessment of AWS Bedrock Agents including action groups, knowledge bases, and guardrail integration.
Beveiligingsgids voor AWS Bedrock
Comprehensive security guide for AWS Bedrock including guardrails, IAM policies, and model access controls.
Beveiligingsassessment van AWS SageMaker
Security assessment of AWS SageMaker including model hosting, endpoint security, and notebook vulnerabilities.
Beveiligingsassessment van Azure AI Studio
Security assessment of Azure AI Studio including prompt flow, model catalog, and deployment security.
Beveiligingsgids voor Azure OpenAI
Security guide for Azure OpenAI Service including content filtering, managed identity, and network isolation.
Netwerkisolatie voor cloud AI-workloads
Implementing network isolation strategies for cloud AI deployments including private endpoints, VPC configurations, service mesh integration, and data plane segmentation for LLM inference and training workloads.
Beveiliging van prompt caching bij cloud-AI
Security implications of prompt caching features in cloud AI services including cache poisoning and information leakage.
Beveiliging van cloud-modelendpoints
Securing model endpoints in cloud deployments including authentication, authorization, and traffic management.
Beveiliging van GCP Model Garden
Security assessment of GCP Model Garden including model deployment, versioning, and access control.
Beveiligingsgids voor GCP Vertex AI
Security guide for GCP Vertex AI including model garden, endpoints, and Gemini API security.
Beveiliging van Hugging Face Inference Endpoints
Security analysis of Hugging Face Inference Endpoints including model isolation and API security.
Strategie voor multi-cloud AI-beveiliging (cloud AI-beveiliging)
Security strategy for organizations using AI services across multiple cloud providers.
Beveiligingsoverwegingen voor serverless AI
Security considerations for AI workloads running on serverless platforms including Lambda, Cloud Functions, and Azure Functions.
Beveiliging van autonome codeeragents
Security analysis of autonomous coding agents like Devin, including scope creep and unintended actions.
AI-beveiliging van Jupyter Notebooks
Security risks of AI-powered notebook features including code completion and execution.
Beveiligingsrisico's van synthetische data
Security implications of using synthetic data for model training, including inherited biases, poisoning propagation, and privacy leakage.
Invoervalidatie-architectuur voor LLM's
Het ontwerpen van invoervalidatiepijplijnen die prompt-injectie detecteren en neutraliseren voordat het model wordt bereikt.
LLM-monitoring en anomaliedetectie
Het bouwen van monitoringsystemen die adversariële gebruikspatronen in LLM-applicaties detecteren.
Beveiligingsverharding van MCP-servers
Het verharden van MCP-serverimplementaties tegen tool poisoning, transportaanvallen en privilege-escalatie.
Patronen voor outputsanitatie
Patronen voor het saneren van LLM-outputs om informatielekkage en het afleveren van schadelijke inhoud te voorkomen.
Beveiligingsverharding van RAG-systemen
Uitgebreide gids voor het verharden van RAG-systemen tegen vergiftiging, injectie en data-exfiltratie.
Rate limiting en misbruikpreventie
Het implementeren van rate limiting en misbruikpreventie voor LLM-API-endpoints en -applicaties.
Multi-Tenant Isolation for LLM Services
Het implementeren van sterke tenant-isolatie in multi-tenant LLM-services om aanvallen tussen tenants te voorkomen.
Beveiligingsanalyse van model merging
Security implications of model merging techniques (TIES, DARE, SLERP) including backdoor propagation and safety property degradation.
Beveiligingsanalyse van prefix tuning
Security implications of prefix tuning and soft prompt approaches, including vulnerability to extraction, manipulation, and adversarial optimization.
Beveiligingsimplicaties van QLoRA
Security implications of quantized LoRA fine-tuning including precision-related vulnerability introduction.
Het AI-API-ecosysteem
Een gids voor de redteamer door het AI-API-landschap — OpenAI, Anthropic, Google, AWS, Azure, open-source API's, authenticatiepatronen en veelvoorkomende beveiligingsmisconfiguraties.
AI-deploymentpatronen en beveiligingsimplicaties
Hoe API-gebaseerde, self-hosted, edge- en hybride deploymentpatronen elk hun eigen beveiligingsoverwegingen en aanvalsoppervlakken voor AI-systemen creëren.
Attention-mechanismen en beveiliging
Hoe attention-mechanismen werken en welke rol ze spelen bij het mogelijk maken van prompt injection-aanvallen.
Deploymentpatronen en beveiliging
Veelvoorkomende deploymentpatronen voor LLM's (API, self-hosted, edge) en hun verschillende beveiligingseigenschappen en aanvalsoppervlakken.
Uitrolpatronen en beveiliging van LLM's
Veelvoorkomende uitrolpatronen voor LLM's en hun beveiligingsimplicaties, waaronder directe API-, RAG-, agent- en pijplijnarchitecturen.
Dreigingsmodel voor LLM-beveiliging
Een compleet dreigingsmodel voor LLM-gestuurde applicaties dat alle aanvalsoppervlakken en dreigingsactoren in kaart brengt.
Vertrouwensgrenzen van LLM's
Inzicht in vertrouwensgrenzen in LLM-applicaties: waar data privilege-niveaus overschrijdt en hoe het ontbreken van native vertrouwenshandhaving aanvalsoppervlakken creëert.
Tokenisatie en de beveiligingsimplicaties ervan
Hoe BPE- en SentencePiece-tokenizers werken, en hoe het gedrag van een tokenizer exploiteerbare aanvalsoppervlakken creëert, waaronder grensaanvallen, homoglyphen en encoding-trucs.
Tokenisatie en de beveiligingsimplicaties ervan
Hoe tokenisatie werkt en waarom het beveiligingsrelevant gedrag in taalmodellen veroorzaakt.
Aanvallen op Codegeneratiemodellen
Overzicht van beveiligingsrisico's in AI-aangedreven codegeneratie: Copilot, Cursor, code-completionmodellen, aanvalsoppervlakken van IDE-integratie en code-specifieke exploitatietechnieken.
Beveiligingsimplicaties van emergente capaciteiten
Hoe emergente capaciteiten in frontier-modellen nieuwe en onvoorspelbare beveiligingsrisico's creëren.
Beveiligingsimplicaties van model merging
Beveiligingsanalyse van model merging-technieken en het potentieel voor backdoor-propagatie via samengevoegde modellen.
Mechanistische interpreteerbaarheid voor beveiliging
Het begrijpen van modelcircuits om kwetsbaarheden te vinden: feature-identificatie, circuitanalyse, exploitatie van attention-patronen, en het gebruik van mechanistische interpreteerbaarheid voor offensieve en defensieve AI-beveiliging.
Representation engineering voor beveiliging (Frontier Research)
Het gebruik van representation engineering voor beveiligingsanalyse, gedragsmodificatie en kwetsbaarheidsdetectie.
Cross-linguale overdracht en beveiliging
Onderzoek naar hoe cross-linguale overdracht de veiligheidstraining beïnvloedt en uitbuitbare meertalige gaten creëert.
Beveiligingsonderzoek naar lange contextvensters
Beveiligingsonderzoek naar kwetsbaarheden die specifiek zijn voor modellen met extreem lange contextvensters (1M+ tokens).
Model Collapse en beveiligingsimplicaties
Beveiligingsimplicaties van model collapse door training op AI-gegenereerde gegevens in iteratieve trainingslussen.
Neurale schaalwetten en beveiligingseigenschappen
Hoe neurale schaalwetten de beveiligingseigenschappen van taalmodellen beïnvloeden naarmate ze groter worden.
Beveiliging van sparse attention-mechanismen
Beveiligingsimplicaties van sparse en efficiënte attention-mechanismen die in moderne frontier-modellen worden gebruikt.
Beveiligingsonderzoek naar machine unlearning
Onderzoek naar aanvallen op methoden voor machine unlearning en de verificatie van het verwijderen van kennis.
Overzicht van AI-beveiligingsframeworks
Landschap van AI-beveiligingsframeworks waaronder OWASP LLM Top 10, MITRE ATLAS, NIST AI RMF en EU AI Act. Hoe ze samenhangen, welke wanneer te gebruiken en gap-analyse.
AI-beveiliging voor energie en nutsbedrijven
AI security in energy and utilities including grid management, predictive maintenance, and smart meters.
AI-beveiligingseisen voor de overheid
Security requirements for AI systems in government settings including FedRAMP and classification considerations.
AI-beveiliging voor HR en personeel
Security analysis of AI in HR including performance evaluation, workforce planning, and employee chatbots.
AI-beveiliging voor de maakindustrie
Security considerations for AI in manufacturing including quality control, predictive maintenance, and robotics.
AI-beveiliging in de telecomsector (branchespecifiek)
Security considerations for AI in telecommunications including network optimization, fraud detection, and customer service.
API Gateway-beveiliging voor AI-services
API-gateways beveiligen voor AI-services, inclusief authenticatie, rate limiting en validatie van verzoeken.
Containerbeveiliging voor ML-workloads
Het beveiligen van gecontaineriseerde ML-workloads, waaronder Docker-images, Kubernetes-pods en GPU-isolatie.
Beveiliging van gedistribueerde training
Beveiligingsoverwegingen voor gedistribueerde modeltraining over meerdere nodes en datacenters.
Beveiliging van edge-AI-deployments
Beveiligingsuitdagingen en mitigaties voor het uitrollen van AI-modellen aan de edge op apparaten met beperkte resources.
GPU Cluster Security
Het beveiligen van GPU-clusters die worden gebruikt voor modeltraining en -inferentie tegen ongeautoriseerde toegang en datalekkage.
Integration & Framework Security
Beveiligingsanalyse van AI-integratieframeworks waaronder LangChain, LlamaIndex en Semantic Kernel, met aandacht voor gangbare kwetsbaarheidspatronen en exploitatietechnieken.
Deep Supply Chain Analysis
Uitgebreide analyse van de dependencyboom van de AI-supplychain, met aandacht voor modelgewichten, tokenizers, datasets, bibliotheken en infrastructuurcomponenten, inclusief auditmethodologie.
ML Data Lake-beveiliging
Het beveiligen van data lakes die worden gebruikt voor ML-trainingsdata, waaronder toegangscontroles, encryptie, lineage-tracking en preventie van vergiftiging.
ML Experiment Infrastructure-beveiliging
Het beveiligen van ML-experimentatie-infrastructuur waaronder notebookservers, experiment-trackers en gedeelde ontwikkelomgevingen.
ML Pipeline CI/CD Security
Securing ML training and deployment pipelines including GitHub Actions, Kubeflow, and MLflow.
Modelartefactbeveiliging
Het beveiligen van modelartefacten gedurende de levenscyclus, waaronder ondertekening, verificatie, opslagencryptie en tamperdetectie.
Model Registry Security
Securing model registries and artifact stores against tampering, poisoning, and unauthorized access.
Multi-Cloud ML Security
Security architecture for ML workloads spanning multiple cloud providers including identity federation, data sovereignty, and policy consistency.
Network Security for AI Deployments
Network security architecture for AI deployments including segmentation, encryption, and traffic analysis.
Serverless ML-security
Securityoverwegingen voor serverless ML-implementaties, waaronder cold-start-aanvallen, function injection en risico's van efemere opslag.
Beveiliging van de vectordatabase
Security hardening for vector databases including Pinecone, Weaviate, Chroma, and pgvector.
Analyse van attention-patronen voor beveiliging
Attention maps gebruiken om modelgedrag te begrijpen en te misbruiken, beveiligingsrelevante attention-patronen herkennen en de mechanica van attention inzetten voor red team-operaties.
Lab: cloud-AI-beoordeling
Hands-on lab for conducting an end-to-end security assessment of a cloud-deployed AI system including infrastructure review, API testing, model security evaluation, and data flow analysis.
Lab: representation engineering voor beveiliging
Use representation engineering to analyze and manipulate internal model representations for security research.
Lab: beveiliging van API-sleutels
Learn common API key exposure vectors, secure key management with .env files, detect keys in git history, implement key rotation, and apply least-privilege principles.
Embedding-grondbeginselen voor beveiliging
Understand text embeddings and their security relevance by generating, comparing, and manipulating embedding vectors.
Lab voor modelbeveiligingsvergelijking
Compare the security posture of different LLM models by running identical test suites across providers.
Lab: bouw een beveiligingsscanner voor agents
Build an automated security scanner for agentic AI systems that detects vulnerabilities in tool use, permission handling, memory management, and multi-step execution flows. Cover agent-specific attack surfaces that traditional LLM testing misses.
Lab: supply chain-audit
Audit an ML project's dependencies for vulnerabilities, covering model files, Python packages, container images, and training data provenance.
Lab: scan van de ML-supply chain
Hands-on lab for auditing machine learning model dependencies, detecting malicious packages in ML pipelines, and scanning model files for backdoors and supply chain threats.
Assessment van een codereview-assistent
Test a code review AI for vulnerabilities in code analysis, suggestion generation, and repository access.
Assessment van AI voor cyber threat intelligence
Red team a cyber threat intelligence AI that processes IOCs, threat reports, and attack attribution.
Beveiligingsimplicaties van A/B-testen
Security implications of A/B testing AI models including differential behavior exploitation.
AI-observability voor beveiliging
Using observability platforms to detect security anomalies in AI system behavior.
Beveiliging van continuous training
Securing continuous and online learning systems against adversarial data injection and model drift manipulation.
Beveiliging van de feature store
Securing feature stores used in ML pipelines against poisoning and unauthorized access.
Beveiliging van Kubernetes ML-operators
Security analysis of Kubernetes-based ML operators (KServe, Seldon, Ray) including privilege escalation, resource manipulation, and cross-tenant attacks.
Beveiliging van ML-experiment-tracking
Securing experiment tracking systems like MLflow, Weights & Biases, and Neptune.
Beveiligingsbeoordeling van MLflow
Security assessment of MLflow deployments including tracking server vulnerabilities, artifact store exploitation, and model registry attacks.
Beveiliging van modeluitrol
Security best practices for deploying LLMs to production environments.
Beveiligingspatronen voor de modelgateway
Security patterns for centralized model gateway deployments including authentication, authorization, and auditing.
Beveiliging van model-rollback
Security implications of model rollback procedures including exposure windows and state consistency.
Hardening van model serving-beveiliging
Best practices for securing model serving infrastructure including endpoint hardening, authentication, rate limiting, and output validation.
Beveiliging van modelversiebeheer
Securing model version management including rollback safety and version validation.
Beveiliging van promptbeheer
Securing prompt templates, system prompts, and prompt management infrastructure.
Beveiliging van versiebeheer van prompttemplates
Securing prompt template version management against unauthorized modifications and injection.
Beveiligingsanalyse van de Claude-architectuur
Deep security analysis of Claude's architecture including extended thinking, tool use, and safety mechanisms.
Beveiligingsanalyse van distillatie
Security implications of knowledge distillation including backdoor transfer, capability extraction, and safety property degradation in student models.
Beveiligingsanalyse van de Gemini-architectuur
Deep security analysis of Gemini's native multimodal architecture and long-context capabilities.
Beveiligingsanalyse van de GPT-4-architectuur
Deep security analysis of GPT-4's architecture including function calling, vision, and safety layers.
Beveiligingsanalyse van Phi-modellen
Security analysis of Microsoft's Phi small language model family including safety vs capability tradeoffs.
Beveiliging van de Qwen-architectuur
In-depth security assessment of Alibaba's Qwen model family including architecture-specific vulnerabilities and cross-language attack surfaces.
Beveiligingsanalyse van Qwen-modellen
Security analysis of Alibaba's Qwen model family including multilingual safety considerations.
Beveiligingsbeoordeling van het Yi-model
Security analysis of 01.AI's Yi models focusing on bilingual capabilities, training data implications, and comparative safety properties.
Ontwerp van een trainingsprogramma voor AI-beveiliging
Designing and delivering AI security training programs for development and security teams.
Leveranciersselectie voor AI-beveiligingstools
Framework for evaluating and selecting AI security testing tools and services.
Checklist voor LLM-beveiliging
Uitgebreide beveiligingschecklist voor LLM-gebaseerde applicaties met aandacht voor invoervalidatie, prompt hardening, outputfiltering, toolbeveiliging, RAG-pijplijnen en incident response.
Beveiligingsreferentie voor model-API's
Beveiligingsreferentie voor de belangrijkste model-API's, inclusief authenticatie, rate limits en veiligheidsfuncties.
Geavanceerde OPSEC voor AI red teams
Geavanceerde operationele beveiligingspraktijken voor AI-redteam-engagements, waaronder obfuscatie van verkeer, voorkoming van attributie en covert testing.
Beveiligingsanalyse van model merging (trainingspipeline)
Beveiligingsanalyse van model-merging-technieken en de voortplanting van kwetsbaarheden via samengevoegde modellen.
Beveiliging van RLHF: Reward Hacking en aanvallen op het reward-model
Uitgebreide analyse van beveiligingskwetsbaarheden in RLHF-pipelines, waaronder reward hacking, vergiftiging van het reward-model en aanvallen via preferentiemanipulatie.
Beveiligingsanalyse van transfer learning
Security implications of transfer learning including inherited vulnerabilities and cross-domain attack transfer.
Supply chain-aanval op de model hub
Attacking the ML model supply chain through hub repositories like Hugging Face, including typosquatting, model poisoning, and repository manipulation techniques.
RCE via modelserialisatie
Remote code execution through malicious model files using pickle deserialization, safetensors manipulation, and other model serialization format vulnerabilities.
Tooluitvoering in een sandbox
Step-by-step walkthrough for running LLM tool calls in isolated sandboxes, covering container-based isolation, resource limits, network restrictions, and output sanitization.
Patronen voor sessie-isolatie
Step-by-step walkthrough for isolating user sessions in LLM applications to prevent cross-contamination of context, memory, and permissions between users.
Threat intelligence voor AI-beveiliging
Build a threat intelligence pipeline for staying current with AI security threats and attack techniques.
Volledige opdracht: AI-codeassistent
End-to-end engagement for assessing an AI-powered code assistant with repository access.
Volledige opdracht: AI-beveiligingscopilot
Red team engagement of an AI security copilot with access to SIEM, vulnerability scanners, and threat intelligence.
Framework voor AI-beveiligingsmetrieken
Framework for measuring and reporting on AI security posture using quantitative metrics.
Concurrentieanalyse van AI-beveiligingstools
Methodology for evaluating and comparing AI security tools for red team operations.
Tabletop-oefeningen voor AI-beveiliging
Designing and facilitating tabletop exercises focused on AI security incident scenarios.
Tool voor MCP-beveiligingsaudits
Build a tool for auditing MCP server implementations for common security vulnerabilities and misconfigurations.