# patterns
標記為「patterns」的 18 篇文章
AI 濫用偵測模式
用於偵測生產環境中 AI 系統持續性濫用的模式與指標。
事件教訓
跨已記錄 AI 安全事件彙整的共通教訓,以及對事件回應、紅隊與治理的意涵。
不安全程式碼生成模式
LLM 在生成程式時常見的不安全模式目錄。
LLM 的斷路器樣式
實作在偵測到異常行為時停止 LLM 處理的斷路器樣式。
人類監督整合樣式
將人類監督整合至 AI 工作流程中、用於安全關鍵操作的樣式。
輸出淨化模式
對 LLM 輸出進行淨化,以預防資訊洩露與有害內容傳遞的模式。
LLM 應用上下文隔離模式
在 LLM 應用中將不受信任內容與受信任指令隔離的架構模式。
隱私保護推論模式
實作隱私保護的推論模式,以保護 LLM 應用處理的敏感資料。
安全 MCP 部署模式
在生產代理環境中為 MCP 伺服器實作提供安全部署模式。
系統提示詞強化模式
建立抗注入系統提示詞的設計模式,打造縱深防禦的提示詞架構。
測試 Harness 整合樣式
將多個攻擊工具整合進統一測試 harness 的樣式。
自訂 Harness 樣式
為 LLM 漏洞評估打造自訂測試 harness 的設計樣式,涵蓋目標抽象、載荷傳遞、結果收集與 CI 整合。
部署模式與安全
常見大型語言模型部署模式（API、自架、邊緣）及其獨特的安全特性與攻擊面。
大型語言模型部署模式與安全
常見大型語言模型部署模式及其安全意涵，包含直接 API、RAG、代理與管線架構。
常見 AI 部署模式與攻擊面
部署模式之分析——聊天機器人、copilot、自主代理、批次處理與微調模型——及其獨特之攻擊面與安全考量。
API Abuse Pattern 實驗室
Discover與exploit API abuse patterns,包括 parameter injection,header manipulation,endpoint confusion.
脈絡隔離模式實作
實作脈絡隔離模式，防止系統提示與使用者資料之間的指令外洩。
安全函式呼叫模式詳解
Implement secure function calling with input validation, output sanitization, and capability restrictions.