# function-calling
41 artikelengetagd met “function-calling”
Misbruik van function calling
Praktische aanvallen op OpenAI function calling, Anthropic tool use en vergelijkbare API's -- function calls injecteren via prompt injection, gaten in parametervalidatie misbruiken en calls aan elkaar koppelen.
Aanvallen met geforceerde functieaanroepen
Modellen dwingen specifieke functies aan te roepen via vervaardigde invoer die de beoogde toolselectie overschrijft.
Contextinjectie bij functieaanroepen
Het injecteren van adversariële content via functieaanroepresultaten die de daaropvolgende redenering van het model beïnvloeden.
Gegevensexfiltratie via functieaanroepen
Functieaanroepen gebruiken als kanalen voor gegevensexfiltratie om informatie uit beperkte omgevingen te extraheren.
Foutexploitatie bij functieaanroepen
Het benutten van foutafhandelingspaden in implementaties van functieaanroepen om informatie te lekken of controles te omzeilen.
Race condities bij functieaanroepen
Het misbruiken van timing- en volgordekwetsbaarheden in parallelle en sequentiële uitvoering van functieaanroepen.
Misbruik van standaardparameters bij functieaanroepen
Het manipuleren van standaardparameterwaarden en optionele velden om onbedoeld functiegedrag te bereiken.
Vergiftiging van functieresultaten
Het vergiftigen van functieaanroepresultaten om instructies terug te injecteren in de redeneerketen van het model.
Schema-injectie bij functies
Het injecteren van kwaadaardige instructies via beschrijvingen van functieparameters en schemadefinities.
Function-type-confusion-aanvallen
Het misbruiken van zwakheden in het typesysteem van function-calling-interfaces om onverwacht gedrag te veroorzaken via type confusion.
Function-Calling-exploitatie
Overzicht van hoe function/tool calling van LLM's werkt, het aanvalsoppervlak dat het creëert, en systematische benaderingen voor het misbruiken van function-calling-interfaces in AI-systemen.
Parallelle-Function-Call-exploitatie
Het misbruiken van parallelle function calling om race conditions te creëren en sequentiële validatie te omzeilen.
Parametermanipulatie
Technieken voor het opstellen van kwaadaardige parameterwaarden in LLM-function-calls, waaronder type confusion, grensoverschrijdingen, injectie via parameters en het uitbuiten van zwakke validatie.
Recursieve Function Calling
Technieken voor het uitlokken van oneindige loops, uitputting van middelen en manipulatie van aanroepketens in LLM-function-calling-systemen via recursieve en herhaalde aanroepen.
Function-resultaatvergiftiging (Agentic Exploitation)
Technieken voor het manipuleren van functie-retourwaarden om LLM-gedrag te beïnvloeden, instructies te injecteren via tool-resultaten en vergiftigde resultaten te ketenen tot meerstaps-exploitatie.
JSON-Schema-injectie
Technieken voor het manipuleren van functiedefinities en JSON-schema's om LLM-gedrag te wijzigen, aanvullende parameters te injecteren en lacunes in schemavalidatie in tool-calling-systemen uit te buiten.
Function-Calling-Chain-Confusion
Verwar meerstaps-function-calling-ketens om validatiestappen over te slaan en onbedoelde operatievolgorden uit te voeren.
Race-condities bij function calling (agentic exploitatie)
Buit race-condities in parallelle function calling uit om sequentiële validatie- en autorisatiecontroles te omzeilen.
Exploitatie van functiehallucinatie
Buit de neiging van het model uit om function-calls naar niet-bestaande API's te hallucineren voor informatieonthulling.
Verdiepende analyse van function parameter injection
Geavanceerde technieken voor het injecteren van adversariële inhoud via parameterwaarden en standaardwaarden bij function calling.
Manipulatie van toolselectie
Manipuleer de beslissingen van het model over toolselectie via geprepareerde prompts die het model naar door de aanvaller geprefereerde functies sturen.
Agentic exploitatie
Uitgebreide behandeling van beveiligingskwetsbaarheden in agentic AI-systemen, waaronder MCP-toolexploitatie, multi-agent-protocolaanvallen, misbruik van function calling, het compromitteren van geheugensystemen, framework-specifieke zwakheden en aanvallen op workflowpatronen.
Assessment van agentic misbruik (assessment)
Test your knowledge of agentic AI attacks, MCP exploitation, function calling abuse, and multi-agent system vulnerabilities with 15 intermediate-level questions.
Beveiligingsbeoordeling van function calling
Assessment focused on JSON schema injection, parameter manipulation, recursive calling, and result poisoning attacks.
Vaardigheidsverificatie: aanvallen op function calling
Skill verification for schema injection, parameter manipulation, and result poisoning techniques.
Veilig ontwerp van function calling
Het ontwerpen van veilige function-calling-interfaces die ongeautoriseerd toolgebruik en data-exfiltratie voorkomen.
Function Calling Authorization Framework
Het bouwen van fijnmazige autorisatieframeworks voor function calling die op capabilities gebaseerde beveiliging afdwingen.
Integratie- & webhookbeveiliging
Methodologie voor het misbruiken van SSRF via LLM-tools, webhook-kaping, onveilige function dispatch, kwetsbaarheden bij het parsen van uitvoer, fouten in OAuth-/API-sleutelbeheer en MCP-serverbeveiliging in AI-pijplijnen.
Function Calling Fortress Breach
Bypass function calling restrictions to invoke unauthorized tools and extract a flag from a sandboxed agent.
Lab: geavanceerd misbruik van function calling
Exploit advanced function calling patterns including nested calls, parallel execution, and schema manipulation.
Lab: misbruik van function calling en tool-gebruik
Hands-on lab exploring how attackers can manipulate LLM function calling and tool use to execute unauthorized actions, exfiltrate data, and chain tool calls for maximum impact.
Lab: injection via function calling
Hands-on lab for exploiting function calling mechanisms by crafting inputs that manipulate which functions get called and with what parameters.
Aanvalsoppervlak van GPT-4
Comprehensive analysis of GPT-4-specific attack vectors including function calling exploitation, vision input attacks, system message hierarchy abuse, structured output manipulation, and known jailbreak patterns.
Injection via function calling
Het misbruiken van function calling- en tool-use-interfaces om adversariële instructies te injecteren via gestructureerde toolinputs en -outputs.
Gids voor misbruik van function calling
Complete walkthrough of exploiting function calling in OpenAI, Anthropic, and Google AI APIs.
Parameter injection bij function calling
Walkthrough of manipulating function call parameters through prompt-level techniques, injecting malicious values into LLM-generated API calls.
Injectie via tool calls
Step-by-step walkthrough of injecting malicious parameters into LLM tool and function calls to execute unauthorized actions in agent systems.
Walkthrough van een tool use confusion-aanval
Walkthrough of confusing model tool-use decisions to invoke unintended functions or skip safety-critical tools.
Implementatie van guardrails voor function calling
Implement guardrails for function calling that validate tool selection, parameters, and execution scope.
Red team-engagement van een agentsysteem
Complete walkthrough for testing tool-using AI agents: scoping agent capabilities, exploiting function calling, testing permission boundaries, multi-step attack chains, and session manipulation.
Beveiligingstesten van Together AI
End-to-end walkthrough for security testing Together AI deployments: API enumeration, inference endpoint exploitation, fine-tuning security review, function calling assessment, and rate limit analysis.