代理利用評估
中級2 分鐘閱讀更新於 2026-03-15
透過 10 題中階難度題目,測試你對 AI 代理安全、工具使用攻擊、混淆代理人情境與代理式系統利用的理解。
代理利用評估
本評估衡量你對以下攻擊技術的掌握程度:針對具備工具存取、多步推理能力與自主決策的 LLM 代理。在嘗試本評估之前,你應熟悉混淆代理人問題 (confused deputy)、工具使用攻擊、思維鏈操縱與代理式系統架構。
Knowledge Check
相較於無狀態的 LLM 聊天機器人,是什麼讓以 LLM 為基礎的代理在遭受入侵時根本上更為危險?
Knowledge Check
在 ReAct (Reasoning and Acting) 代理架構中,操縱代理行為的主要注入點位於何處?
Knowledge Check
在代理安全的脈絡中,什麼是「工具遮蔽」(tool shadowing)?
Knowledge Check
一個代理可存取 read_email、send_email 與 search_web 工具。攻擊者在代理將造訪的網頁上植入間接注入。影響最大的攻擊鏈為何?
Knowledge Check
什麼是「思維注入」(thought injection)?它與代理式系統中的標準提示詞注入有何差異?
Knowledge Check
為什麼「自動呼叫」模式(代理不經人類確認即自動執行工具呼叫)被視為高風險?
Knowledge Check
在多工具代理系統中,什麼是「工具權限提升」攻擊?
Knowledge Check
針對具有持久記憶或對話歷史的代理,「記憶體投毒」攻擊如何運作?
Knowledge Check
能夠產生子代理或委派任務給其他 AI 系統的代理,其安全意涵為何?
Knowledge Check
哪種架構模式在維持實用自主性的同時提供最強的代理利用防禦?
概念摘要
| 概念 | 描述 | 風險等級 |
|---|---|---|
| 混淆代理人 | 代理代替攻擊者使用其合法權限 | 關鍵 |
| 工具遮蔽 | 惡意工具以合法名稱註冊 | 高 |
| 工具鏈攻擊 | 組合低風險工具以達成高風險結果 | 高 |
| 思維注入 | 操縱代理的思維鏈推理 | 關鍵 |
| 記憶體投毒 | 將注入內容持久化於代理長期記憶 | 高 |
| 自動呼叫風險 | 注入與行為之間無人類檢查點 | 關鍵 |
| 多代理委派 | 透過代理信任鏈傳播入侵 | 高 |
| 權限提升 | 串接受限工具以超越個別限制 | 高 |
評分指引
| 分數 | 評等 | 後續步驟 |
|---|---|---|
| 9-10 | 優秀 | 對代理利用有紮實理解。請前往 MCP 安全評估。 |
| 7-8 | 熟練 | 檢視錯題的解釋,並重溫代理式 AI 安全教材。 |
| 5-6 | 發展中 | 在重測前重新研讀代理利用章節。 |
| 0-4 | 需複習 | 從頭開始研讀代理式 AI 基礎。 |
學習檢查清單
- 我能說明 AI 代理系統中的混淆代理人問題
- 我理解間接提示詞注入如何促成代理利用
- 我能描述工具遮蔽及其前置條件
- 我理解工具鏈攻擊與權限提升
- 我能說明思維注入與標準提示詞注入的差異
- 我理解具有持久狀態的代理中之記憶體投毒
- 我能清楚表達自動呼叫相對於人機迴圈模式的風險
- 我理解多代理委派與傳遞性信任風險
- 我能將最小權限原則應用於代理設計
- 我了解代理架構的能力基礎安全模型