# function-calling
標記為「function-calling」的 41 篇文章
函式呼叫利用
針對 OpenAI 函式呼叫、Anthropic 工具使用與類似 API 的實務攻擊——透過提示詞注入注入函式呼叫、利用參數驗證落差與鏈結呼叫。
強制函式呼叫
強迫代理在不適當情境下呼叫函式、或強制特定函式路徑以繞過決策邏輯的攻擊。
函式呼叫上下文注入
藉由函式呼叫上下文（參數、系統訊息、工具結果）注入對抗性指令的技術。
函式呼叫資料外洩
利用函式呼叫參數或結果傳輸私有資料至攻擊者掌控端點的外洩技術。
函式呼叫錯誤利用
透過錯誤訊息、重試行為與例外處理路徑操縱代理以觸發未預期行為的技術。
函式呼叫競爭條件
利用平行或非同步函式呼叫中的時序問題，繞過驗證或達成未授權效果的攻擊。
函式預設參數濫用
濫用函式預設參數值以達成未預期行為，或在代理省略參數時取得危險預設。
函式結果投毒
將惡意內容注入函式回傳值，以引導代理後續推理與行動的攻擊。
函式 schema 注入
透過修改、擴充或注入函式 schema 欄位以誤導代理選擇與參數化函式的攻擊。
函式型別混淆攻擊
利用代理將自然語言映射至 API 型別時的弱點，以傳入型別不符或溢位邊界的參數。
函式呼叫攻擊（Function Calling Exploitation）
概述 LLM 函式/工具呼叫的運作方式、其產生的攻擊面，以及對 AI 系統中函式呼叫介面進行利用的系統化方法。
平行函式呼叫漏洞利用
利用平行函式呼叫製造競爭條件並繞過循序驗證。
參數操弄
打造 LLM 函式呼叫中惡意參數值的技術，包含型別混淆、邊界越界、經由參數之注入，以及利用不完善之驗證。
遞迴函式呼叫
在 LLM 函式呼叫系統中透過遞迴與反覆呼叫觸發無限迴圈、資源耗盡，以及操弄呼叫鏈的技術。
函式結果投毒（代理式攻擊）
操弄函式回傳值以影響 LLM 行為的技術、透過工具結果注入指令，以及將被投毒結果串接為多步攻擊。
JSON Schema 注入
操弄函式定義與 JSON schema 以改變 LLM 行為、注入額外參數，以及利用工具呼叫系統中 schema 驗證缺口之技術。
函式呼叫鏈混淆
混淆多步函式呼叫鏈以跳過驗證步驟並執行非預期之操作序列。
函式呼叫競態條件（代理式利用）
利用並行函式呼叫中之競態條件以繞過順序性驗證與授權檢查。
函式幻覺利用
利用模型對不存在 API 之函式呼叫幻覺傾向以進行資訊揭露。
函式參數注入深入探討
透過函式呼叫參數值與預設值注入對抗內容之進階技術。
工具選擇操弄
透過打造偏向攻擊者偏好函式之提示，操弄模型之工具選擇決策。
代理式利用
代理式 AI 系統中安全漏洞的完整涵蓋，包含 MCP 工具利用、多代理協議攻擊、函式呼叫濫用、記憶體系統入侵、框架特定弱點與工作流程模式攻擊。
代理式利用評估（評量）
透過 15 題中階難度題目，測試你對代理式 AI 攻擊、MCP 利用、函式呼叫濫用與多代理系統漏洞的知識。
函式呼叫安全評估
評估聚焦於JSON schema injection、parameter manipulation、recursive calling、result poisoning 攻擊。
技能驗證: 函式呼叫攻擊
Skill verification的schema injection、parameter manipulation、result poisoning技巧。
安全函式呼叫設計
設計安全的函式呼叫介面,預防未授權的工具使用與資料外洩。
函式呼叫授權框架
為函式呼叫建構細粒度授權框架,強制執行基於能力的安全。
AI 應用整合安全
AI 應用與外部系統整合的安全,包含 API 整合、Webhook、OAuth 與第三方工具。
Function Calling Fortress Breach
繞過function calling restrictions to invoke unauthorized tools與extract a flag from a sandboxed agent.
實驗：進階函式呼叫利用
利用進階的函式呼叫模式，包含巢狀呼叫、平行執行與 Schema 操弄。
實驗室: Function Calling & 工具 Use Abuse
動手lab exploring how attackers can manipulate LLM function calling與tool use to execute unauthorized actions,exfiltrate data,chain tool calls for maximum impact.
實驗室: Function Calling 注入
動手實驗室,主題為exploiting function calling mechanisms by crafting inputs that manipulate which functions get called與with what parameters.
GPT-4 攻擊面
GPT-4 特有攻擊向量之完整分析，包括函式呼叫攻擊、視覺輸入攻擊、系統訊息階層濫用、結構化輸出操弄，以及已知 jailbreak 模式。
透過函式呼叫的注入
利用函式呼叫與工具使用介面，透過結構化工具輸入與輸出注入對抗指令。
函式呼叫利用指南
Complete walkthrough of exploiting function calling in OpenAI, Anthropic, and Google AI APIs.
Function Calling Parameter Injection
導覽 of manipulating function call parameters through prompt-level techniques, injecting malicious values into LLM-generated API calls.
工具 Call Injection
Step-by-step walkthrough of injecting malicious parameters into LLM tool and function calls to execute unauthorized actions in agent systems.
Tool Use Confusion 攻擊 詳解
Walkthrough of confusing model tool-use decisions to invoke unintended functions or skip safety-critical tools.
Function Calling Guardrails Implementation
Implement guardrails for function calling that validate tool selection, parameters, and execution scope.
代理 System 紅隊 Engagement
Complete walkthrough for testing tool-using AI agents: scoping agent capabilities, exploiting function calling, testing permission boundaries, multi-step attack chains, and session manipulation.
Together AI 安全 Testing
End-to-end walkthrough for security testing Together AI deployments: API enumeration, inference endpoint exploitation, fine-tuning security review, function calling assessment, and rate limit analysis.