# vulnerability
12 artikelengetagd met “vulnerability”
Casestudy: GitHub Copilot die kwetsbare code genereert
Analysis of research findings demonstrating that GitHub Copilot and similar AI code assistants systematically generate code containing security vulnerabilities, and the implications for software supply chain security.
Casestudy: disclosure van een MCP-beveiligingskwetsbaarheid
Analysis of early MCP security vulnerability discoveries including tool poisoning and transport security issues.
AI bug bounty-programma's
Comprehensive guide to active AI bug bounty programs from OpenAI, Anthropic, Google, and platform providers. Scope definitions, reward ranges, submission best practices, and AI-specific vulnerability categories.
Geautomatiseerde ontdekking van kwetsbaarheden
Geautomatiseerde tools bouwen om nieuwe kwetsbaarheden in LLM-applicaties te ontdekken.
garak: LLM-kwetsbaarheidsscanner
Diepgaande verkenning van NVIDIA's Garak LLM-kwetsbaarheidsscanner: architectuur, probes, generators, evaluators, ontwikkeling van aangepaste probes en CI/CD-integratie voor geautomatiseerd beveiligingsscannen.
Analyse van PEFT-kwetsbaarheden
Security analysis of Parameter-Efficient Fine-Tuning methods beyond LoRA.
Ethiek & verantwoorde disclosure
Ethische kaders voor AI-red teaming, processen voor verantwoorde disclosure van AI-kwetsbaarheden, wanneer en hoe je bevindingen meldt, en het navigeren van bug bounty-programma's.
Dependency-scanning voor AI/ML
Defensiegerichte gids voor het scannen van AI/ML-dependencies op kwetsbaarheden, met aandacht voor AI-specifieke dependency-risico's, detectie van kwaadaardige packages, geautomatiseerde scanpipelines en policy-handhaving voor ML-toolchains.
CTF: Code Gen Exploit
Manipulate AI code generation to produce vulnerable, backdoored, or malicious code. Explore how prompt manipulation influences code security, from subtle vulnerability injection to full backdoor insertion.
Documentatie van technische bevindingen
How to document AI-specific vulnerabilities: reproduction steps, severity assessment with AI-adapted frameworks, remediation recommendations, and finding templates.
Classificatiesysteem voor AI-kwetsbaarheden
Structured system for classifying AI-specific vulnerabilities by type, impact, and exploitability.
De ernst van AI-kwetsbaarheden classificeren
Framework for consistently classifying the severity of AI and LLM vulnerabilities, with scoring criteria, impact assessment, and examples across common finding categories.