# tool-use
標記為「tool-use」的 27 篇文章
函式呼叫利用
針對 OpenAI 函式呼叫、Anthropic 工具使用與類似 API 的實務攻擊——透過提示詞注入注入函式呼叫、利用參數驗證落差與鏈結呼叫。
代理與代理式利用
自主 AI 代理的安全概覽，涵蓋由工具呼叫、持久記憶體、多步推理與多代理協調所建立的擴大攻擊面。
MCP 安全:理解並防禦協定
模型上下文協定 (MCP) 安全的完整指南——理解攻擊面、已知漏洞 (2026 年初超過 30 個 CVE),並為啟用 MCP 的 AI 代理系統實作穩健防禦。
利用代理工具使用
如何操弄 AI 代理，使其以攻擊者可控的參數呼叫工具，並濫用其能力達成資料外洩、提權，以及未授權動作。
工具使用利用
利用 AI 代理如何呼叫外部工具與 API 的完整技術，包含工具描述投毒、過度寬鬆存取濫用與工具輸出操控。
AI 代理利用
經混淆代理攻擊、目標劫持、特權升級與沙箱逃逸利用 AI 代理架構之方法論。
函式呼叫攻擊（Function Calling Exploitation）
概述 LLM 函式/工具呼叫的運作方式、其產生的攻擊面，以及對 AI 系統中函式呼叫介面進行利用的系統化方法。
JSON Schema 注入
操弄函式定義與 JSON schema 以改變 LLM 行為、注入額外參數，以及利用工具呼叫系統中 schema 驗證缺口之技術。
代理利用評估
透過 10 題中階難度題目，測試你對 AI 代理安全、工具使用攻擊、混淆代理人情境與代理式系統利用的理解。
代理式利用評估（評量）
透過 15 題中階難度題目，測試你對代理式 AI 攻擊、MCP 利用、函式呼叫濫用與多代理系統漏洞的知識。
總結專案：端到端代理式 AI 系統滲透測試
針對具備工具使用、多步推理與自主決策能力的代理式 AI 系統執行完整的滲透測試。
MCP 與程式設計工具安全
IDE 環境中模型上下文協議的安全風險——涵蓋開發工具中的 MCP 伺服器攻擊、透過工具呼叫的程式碼外洩與 IDE 特定強化策略。
CaMeL 與雙 LLM 模式
分離可信與不可信處理的架構式防禦模式:Simon Willison 的雙 LLM 概念與 Google DeepMind 的 CaMeL 框架,用於防禦使用工具的 AI 代理免於提示詞注入。
AI 應用整合安全
AI 應用與外部系統整合的安全,包含 API 整合、Webhook、OAuth 與第三方工具。
Lab: MCP Full Exploitation
動手實作 for conducting a complete Model Context Protocol server compromise including tool enumeration, permission escalation, cross-tool attacks, and data exfiltration through MCP channels.
CTF：代理劫案
多階段代理利用挑戰，你滲透 AI 代理之工具生態系、提升權限並於不觸發安全警報下外洩目標資料。
實驗室: Exploiting AI 代理
動手實驗室,主題為exploiting AI agents with tool access through indirect 提示詞注入,tool-call chaining,privilege escalation techniques.
實驗室: 代理 提示詞 Leaking
動手實驗室,主題為extracting system prompts from tool-using AI agents by exploiting tool interactions,observation channels,multi-step reasoning to leak protected instructions.
實驗室: Function Calling & 工具 Use Abuse
動手lab exploring how attackers can manipulate LLM function calling與tool use to execute unauthorized actions,exfiltrate data,chain tool calls for maximum impact.
模擬：代理式工作流程完整案件
針對具程式碼執行、檔案存取與 API 整合能力之多工具 AI 代理的專家級紅隊模擬。
模擬：自主 AI 代理紅隊
針對具工具存取、檔案系統權限與網際網路連線之自主 AI 代理之紅隊委任模擬。測試權限提升、未授權動作與目標劫持。
Claude 攻擊面
Claude 特有攻擊向量，含憲法 AI 弱點、工具使用利用、系統提示處理、視覺攻擊與 XML 標籤注入技術。
透過函式呼叫的注入
利用函式呼叫與工具使用介面，透過結構化工具輸入與輸出注入對抗指令。
Function Schema Poisoning 詳解
Poison function schemas to inject hidden instructions that redirect model tool selection and parameter filling.
Tool Use Confusion 攻擊 詳解
Walkthrough of confusing model tool-use decisions to invoke unintended functions or skip safety-critical tools.
Sandboxing and Permission 模型s for 工具-Using 代理s
導覽 for implementing sandboxing and permission models that constrain tool-using LLM agents, covering least-privilege design, parameter validation, execution sandboxes, approval workflows, and audit logging.
Setting Up Garak Probes for MCP 工具 Interactions
進階 walkthrough on configuring garak probes that target 模型 Context Protocol (MCP) tool interactions, testing for tool misuse, privilege escalation through tools, and data exfiltration via tool calls.