# mitigation

標記為「mitigation」的 8 篇文章

Defense & Mitigation 評估

評估涵蓋guardrails、classifiers、constitutional AI、防禦-in-depth architectures。

使用對抗性訓練技術,提升 LLM 對已知攻擊模式的穩健性。

實作在偵測到異常行為時停止 LLM 處理的斷路器樣式。

AI 系統的防禦策略，包含護欄架構、監控與可觀測性、安全開發實務、修復對應與進階防禦技術。

實作權限分離,依脈絡與使用者角色限制 LLM 可用的能力。

在系統提示詞中部署金絲雀字串,以偵測並警示提示詞注入與萃取嘗試。

對模型回應與已知事實實施一致性檢查以偵測操縱。

監控模型輸出中的符元歸因,以偵測對抗性輸入對生成的影響。