防禦與緩解評量
中級3 分鐘閱讀更新於 2026-03-15
以 15 道中級題目測試你對 AI 護欄、監控系統、事件回應與深度防禦策略的知識。
防禦與緩解評量
本評量涵蓋護欄架構、內容過濾、異常偵測、監控策略、AI 系統的事件回應與深度防禦方法。理解先前評量中的攻擊技術將有助於將這些防禦概念脈絡化。
Knowledge Check
為何分層防禦（深度防禦）方法對基於 LLM 應用至關重要？
Knowledge Check
AI 安全中「護欄」與「內容過濾器」之間的差異為何？
Knowledge Check
使用獨立 LLM 作為護欄（LLM 作為評判方法）的限制為何？
Knowledge Check
PII 偵測應如何在 LLM 應用的輸出管線中實作？
Knowledge Check
什麼監控訊號應在 AI 安全監控系統中觸發警示？
Knowledge Check
提示詞／回應日誌為何對 AI 安全重要？什麼隱私考量適用？
Knowledge Check
在 AI 系統安全脈絡中，什麼是「金絲雀 token」偵測？
Knowledge Check
與傳統網路 API 相比，AI 端點的速率限制應如何不同配置？
Knowledge Check
輸出驗證在防止「不安全輸出處理」漏洞中的角色為何？
Knowledge Check
為何 A/B 測試對護欄部署與調校重要？
Knowledge Check
AI 特定的事件回應計畫應包含什麼是傳統 IR 計畫沒有的？
Knowledge Check
「斷路器」模式如何適用於 AI 系統防禦？
Knowledge Check
「紅隊即服務」或對已部署 AI 系統的持續自動化紅隊演練的目的為何？
Knowledge Check
為何護欄決策應獨立於模型推論日誌進行記錄並可稽核？
Knowledge Check
什麼是「模型版本控制」？為何它對 AI 安全營運重要？