# vulnerabilities
標記為「vulnerabilities」的 13 篇文章
案例研究:ChatGPT 外掛漏洞
分析 ChatGPT 外掛生態系中被揭露的真實漏洞,包含資料外洩與提示詞注入。
案例研究:MCP 早期漏洞揭露
分析早期 MCP 漏洞揭露,包含 Invariant Labs 的工具投毒研究。
不安全程式碼生成模式
LLM 在生成程式時常見的不安全模式目錄。
OWASP LLM Top 10 Deep Dive
Each OWASP LLM Top 10 item explained with real-world examples, testing methodology for each category, and how to map red team findings to OWASP classifications.
AI 漏洞的負責任揭露
Processes and best practices for responsible disclosure of vulnerabilities in AI systems.
Claude 已知漏洞
已記錄之 Claude 漏洞，包括 many-shot jailbreak、對齊偽裝研究、crescendo 攻擊、經由 artifact 之提示注入，以及系統提示擷取技術。
Gemini 已知漏洞
已記錄的 Gemini 漏洞，包括影像生成偏見事件、系統提示擷取、安全過濾不一致、多模態注入 exploit，以及 grounding 濫用。
GPT-4 已知漏洞
已記錄之 GPT-4 漏洞——含 DAN jailbreak、資料擷取事件、系統提示洩漏、工具使用利用，以及微調安全移除。
分詞器漏洞
分詞器中可被利用於 LLM 攻擊的具體漏洞。
AI 系統 CVE 追蹤
追蹤與分析影響 AI 系統與框架的 CVE 指南,附歷史分析與趨勢漏洞類別。
OWASP LLM Top 10 速查
OWASP Top 10 for LLM Applications 之速查——含各風險類別之定義、攻擊範例與關鍵緩解。
串接 AI 漏洞
將多個 AI 漏洞串接成可靠多階段利用路徑的技術。
DPO 訓練漏洞
直接偏好優化(DPO)訓練的安全分析,及其對偏好投毒的脆弱性。