監控與偵測評量
中級2 分鐘閱讀更新於 2026-03-15
以 9 道中級題目測試你對 AI 安全監控、異常偵測、日誌策略以及基於 LLM 應用之事件偵測的理解。
監控與偵測評量
本評量涵蓋 AI 系統的安全監控與偵測：日誌策略、異常偵測、行為分析、攻擊模式識別，以及基於 LLM 應用特有的事件回應考量。
Knowledge Check
監控 LLM 應用與監控傳統網路應用的根本差異為何？
Knowledge Check
應為每次 LLM 互動記錄什麼資料，以啟用有效的安全分析與事件調查？
Knowledge Check
什麼行為訊號指示進行中的潛在提示詞注入或越獄攻擊？
Knowledge Check
「金絲雀 token」在監控 AI 系統資料外滲的角色為何？
Knowledge Check
預生產（測試／預備）與生產 AI 部署的監控應如何不同？
Knowledge Check
什麼是「蜜罐提示詞」？它如何協助偵測 AI 攻擊？
Knowledge Check
監控如何能偵測保持在速率限制閾值以下的「緩慢低頻」攻擊？
Knowledge Check
AI 安全事件特有之事件回應計畫的關鍵元件為何？
Knowledge Check
AI 安全儀表板應追蹤什麼指標以提供情境意識？
概念摘要
| 元件 | 目的 | 關鍵考量 |
|---|---|---|
| 語意日誌 | 捕捉有意義的互動資料 | 已儲存內容的隱私合規 |
| 行為分析 | 透過互動模式偵測攻擊 | 需要正常行為的基線 |
| 金絲雀 token | 偵測資料外滲事件 | 高信心、低誤報 |
| 蜜罐提示詞 | 偵測與歸屬攻擊者 | 必須看起來逼真才有效 |
| 長視窗分析 | 偵測緩慢低頻攻擊 | 需要延長的資料保留 |
| AI 特定 IR | 回應 AI 安全事件 | 以模型特定動作延伸標準 IR |
| 安全儀表板 | 即時情境意識 | 在細節與可據以行動之間平衡 |
評分指南
| 分數 | 等第 | 下一步 |
|---|---|---|
| 8-9 | 優秀 | 強的監控知識。進入 法律與倫理評量。 |
| 6-7 | 熟練 | 檢視錯題並重溫 AI 監控教材。 |
| 4-5 | 發展中 | 多花時間在安全監控與偵測概念上。 |
| 0-3 | 需要複習 | 在重新測試前研讀 SIEM 基礎與應用監控。 |
研讀檢查清單
- 我了解為何 LLM 監控與傳統應用監控不同
- 我知道為每次 LLM 互動記錄什麼資料
- 我能識別 AI 攻擊的行為指標
- 我了解金絲雀 token 與蜜罐提示詞以進行外滲偵測
- 我知道如何區分預生產與生產監控
- 我能解釋透過長視窗分析偵測緩慢低頻攻擊
- 我了解 AI 特定的事件回應程序
- 我知道 AI 安全儀表板的關鍵指標
- 我能在監控深度與隱私合規要求之間平衡