# framework
33 artikelengetagd met “framework”
LangChain Security Deep Dive
Uitgebreide beveiligingsanalyse van LangChain, inclusief bekende CVE's en exploitatiepatronen.
DSPy-security-analyse
Security-analyse van het DSPy-framework, inclusief exploitatie van prompt-optimalisatie en pipeline-injectie.
Framework voor classificatie van AI-incidenten
Framework voor het classificeren van AI-beveiligingsincidenten op type, ernst en responsprioriteit.
IR Playbook Framework for AI Systems
Framework voor incident response-playbooks voor AI-systemen: ontwerpprincipes voor playbooks, gemeenschappelijke structuur, aanpassingsrichtlijnen en integratie met bestaande IR-processen.
Beveiliging van LangChain en LlamaIndex
Security analysis of popular LLM orchestration frameworks. Common misconfigurations, known CVEs, insecure defaults, and hardening guides for LangChain, LlamaIndex, and related LLM application frameworks.
Function Calling Authorization Framework
Het bouwen van fijnmazige autorisatieframeworks voor function calling die op capabilities gebaseerde beveiliging afdwingen.
Taxonomie van AI-verdedigingen
Een uitgebreide categorisering van alle AI-verdedigingsaanpakken, geordend op laag, methode en effectiviteit, die een gestructureerd framework biedt om verdedigingsstrategieën te evalueren.
Framework voor aanvalsautomatisering
End-to-end frameworks bouwen voor aanvalsautomatisering die verkenning, payload-generatie, uitvoering en resultaatanalyse orkestreren.
Gids voor harness-ontwikkeling
Het bouwen van herbruikbare testharnasses voor kwetsbaarheidsbeoordeling van LLM's, inclusief targetabstractie, payloadlevering en resultaatverzameling.
Testframework voor meerdere doelen
Bouw een framework waarmee je dezelfde aanvalssuite tegelijk uitvoert tegen meerdere modelproviders.
Inspect AI: evaluatieframework van de UK AISI
Diepgaande duik in het Inspect-framework van het UK AI Safety Institute: taakontwerp, solvers, scorers, eigen evaluaties bouwen en vergelijking met andere AI-evaluatieframeworks.
Framework voor het scoren van aanvalsresultaten
Een framework ontwikkelen om aanvalsresultaten automatisch te scoren op basis van meerdere succescriteria.
AI Governance Framework Design
Designing organizational AI governance frameworks that integrate security, ethics, and compliance.
MITRE ATLAS Walkthrough
MITRE ATLAS-tactieken, -technieken en -procedures voor AI-systemen. Hoe je ATLAS gebruikt voor de planning van red-team-engagements en aanvallen aan ATLAS-ID's mapt.
OWASP LLM Top 10 Deep Dive
Elk item van de OWASP LLM Top 10 uitgelegd met voorbeelden uit de praktijk, testmethodologie voor elke categorie en hoe je red-teambevindingen mapt op OWASP-classificaties.
Ontwikkeling van een AI-risicobereidheidsframework
Developing organizational AI risk appetite frameworks that balance innovation with security and compliance.
Analyse van het Britse AI-regelgevingskader
Analysis of the UK's sector-specific AI regulation approach and its implications for red teaming.
Integration & Framework Security
Beveiligingsanalyse van AI-integratieframeworks waaronder LangChain, LlamaIndex en Semantic Kernel, met aandacht voor gangbare kwetsbaarheidspatronen en exploitatietechnieken.
Lab: een productie-red team-harness bouwen
Build a full-featured, production-quality red team harness with multi-model support, async testing, structured result storage, and HTML reporting.
Lab: bouw jailbreak-automatisering
Build an automated jailbreak testing framework that generates, mutates, and evaluates attack prompts at scale. Covers prompt mutation engines, success classifiers, and campaign management for systematic red team testing.
Methodologie voor het red teamen van multimodale systemen
Gestructureerde methodologie voor het uitvoeren van beveiligingsassessments van multimodale AI-systemen, met scoping, enumeratie van het aanvalsoppervlak, testuitvoering en rapportage met MITRE ATLAS-mappings.
Methodologiestandaard voor het AI red team
Standardized methodology for conducting AI red team assessments from scoping through reporting.
Ethisch kader voor AI-redteaming
Ethical framework for AI red team operations covering responsible disclosure, dual-use considerations, and professional conduct standards.
Taxonomie van prompt injection
Een uitgebreid classificatieframework voor prompt injection-aanvallen, met directe en indirecte vectoren, afleveringsmechanismen, doellagen en severitybeoordeling voor systematisch red-teamtesten.
Snelle referentie voor MITRE ATLAS
Snelle referentiegids voor MITRE ATLAS-tactieken, -technieken en -procedures voor AI-systemen.
Framework voor het testen van adversarial robuustheid
Build a framework for continuously testing adversarial robustness of deployed LLM defense mechanisms.
Autorisatieframework voor tool calls
Implement a tool call authorization framework that validates tool invocations against policy before execution.
Framework voor AI-beveiligingsmetrieken
Framework for measuring and reporting on AI security posture using quantitative metrics.
Framework voor het prioriteren van aanvallen
Prioritize attack techniques based on target architecture, time constraints, and likelihood of success.
MITRE ATLAS gebruiken voor het in kaart brengen van AI-aanvallen
Walkthrough for mapping AI red team activities and findings to the MITRE ATLAS framework, covering tactic and technique identification, attack chain construction, and navigator visualization.
Walkthrough van een NIST AI RMF-beoordeling
Step-by-step guide for conducting assessments aligned with the NIST AI Risk Management Framework, covering the Govern, Map, Measure, and Manage functions for AI system security.
Framework voor het prioriteren van AI-kwetsbaarheden
Framework for prioritizing AI vulnerabilities by exploitability, impact, and remediation cost.
Framework voor beveiligingstesten van RAG
Build a framework for systematic security testing of RAG applications including poisoning and exfiltration.