# tool-use
27 artikelengetagd met “tool-use”
Misbruik van function calling
Praktische aanvallen op OpenAI function calling, Anthropic tool use en vergelijkbare API's -- function calls injecteren via prompt injection, gaten in parametervalidatie misbruiken en calls aan elkaar koppelen.
Misbruik van agents en agentic systemen
Beveiligingsoverzicht van autonome AI-agents, met aandacht voor het vergrote aanvalsoppervlak dat ontstaat door tool-gebruik, persistent geheugen, redeneren in meerdere stappen en coördinatie tussen meerdere agents.
MCP-beveiliging: het protocol begrijpen en verdedigen
Een uitgebreide handleiding over de beveiliging van het Model Context Protocol — inzicht in het aanvalsoppervlak, bekende kwetsbaarheden (30+ CVE's begin 2026) en het implementeren van robuuste verdediging voor MCP-gebaseerde AI-agentsystemen.
Misbruik van tool-gebruik door agents
Hoe je AI-agents manipuleert om tools aan te roepen met parameters die de aanvaller bepaalt, en zo toolcapabilities misbruikt voor data-exfiltratie, privilege escalation en ongeautoriseerde acties.
Misbruik van toolgebruik
Uitgebreide technieken om misbruik te maken van de manier waarop AI-agents externe tools en API's aanroepen, waaronder het vergiftigen van toolbeschrijvingen, misbruik van te ruime toegang en het manipuleren van tooloutput.
Exploitatie van AI-agents
Methodologie voor het exploiteren van AI-agentarchitecturen via confused-deputy-aanvallen, doelkaping, privilege-escalatie en sandbox-ontsnapping.
Function-Calling-exploitatie
Overzicht van hoe function/tool calling van LLM's werkt, het aanvalsoppervlak dat het creëert, en systematische benaderingen voor het misbruiken van function-calling-interfaces in AI-systemen.
JSON-Schema-injectie
Technieken voor het manipuleren van functiedefinities en JSON-schema's om LLM-gedrag te wijzigen, aanvullende parameters te injecteren en lacunes in schemavalidatie in tool-calling-systemen uit te buiten.
Assessment van agentmisbruik
Test your understanding of AI agent security, tool-use attacks, confused deputy scenarios, and agentic system exploitation with 10 intermediate-level questions.
Assessment van agentic misbruik (assessment)
Test your knowledge of agentic AI attacks, MCP exploitation, function calling abuse, and multi-agent system vulnerabilities with 15 intermediate-level questions.
Capstone: pentest een agentic AI-systeem end-to-end
Conduct a full penetration test of an agentic AI system with tool use, multi-step reasoning, and autonomous decision-making capabilities.
Beveiliging van MCP en codeertools
Security risks of Model Context Protocol in IDE environments — covering MCP server attacks in development tools, code exfiltration via tool calls, and IDE-specific hardening strategies.
CaMeL & Dual LLM-patroon
Architecturale verdedigingspatronen die vertrouwde en niet-vertrouwde verwerking scheiden: Simon Willisons Dual LLM-concept en het CaMeL-framework van Google DeepMind voor het verdedigen van tool-gebruikende AI-agents tegen prompt-injectie.
Integratie- & webhookbeveiliging
Methodologie voor het misbruiken van SSRF via LLM-tools, webhook-kaping, onveilige function dispatch, kwetsbaarheden bij het parsen van uitvoer, fouten in OAuth-/API-sleutelbeheer en MCP-serverbeveiliging in AI-pijplijnen.
Lab: volledig misbruik van MCP
Hands-on lab for conducting a complete Model Context Protocol server compromise including tool enumeration, permission escalation, cross-tool attacks, and data exfiltration through MCP channels.
CTF: Agent Heist
A multi-stage agent exploitation challenge where you infiltrate an AI agent's tool ecosystem, escalate privileges, and exfiltrate target data without triggering security alerts.
Lab: AI-agents misbruiken
Hands-on lab for exploiting AI agents with tool access through indirect prompt injection, tool-call chaining, and privilege escalation techniques.
Lab: Agent Prompt Leaking
Praktijklab voor het extraheren van systeemprompts uit tool-gebruikende AI-agents door tool-interacties, observatiekanalen en redeneren in meerdere stappen uit te buiten om beschermde instructies te lekken.
Lab: misbruik van function calling en tool-gebruik
Hands-on lab exploring how attackers can manipulate LLM function calling and tool use to execute unauthorized actions, exfiltrate data, and chain tool calls for maximum impact.
Simulatie: agentic workflow full engagement
Expert-level red team simulation targeting a multi-tool AI agent with code execution, file access, and API integration capabilities.
Simulatie: red team voor een autonome AI-agent
Red team engagement simulation targeting an autonomous AI agent with tool access, file system permissions, and internet connectivity. Tests for privilege escalation, unauthorized actions, and goal hijacking.
Aanvalsoppervlak van Claude
Claude-specific attack vectors including Constitutional AI weaknesses, tool use exploitation, system prompt handling, vision attacks, and XML tag injection techniques.
Injection via function calling
Het misbruiken van function calling- en tool-use-interfaces om adversariële instructies te injecteren via gestructureerde toolinputs en -outputs.
Walkthrough: poisoning van function schema's
Poison function schemas to inject hidden instructions that redirect model tool selection and parameter filling.
Walkthrough van een tool use confusion-aanval
Walkthrough of confusing model tool-use decisions to invoke unintended functions or skip safety-critical tools.
Sandboxing en permissiemodellen voor tool-gebruikende agents
Walkthrough for implementing sandboxing and permission models that constrain tool-using LLM agents, covering least-privilege design, parameter validation, execution sandboxes, approval workflows, and audit logging.
Garak-probes opzetten voor MCP-toolinteracties
Advanced walkthrough on configuring garak probes that target Model Context Protocol (MCP) tool interactions, testing for tool misuse, privilege escalation through tools, and data exfiltration via tool calls.