# attack-surface
標記為「attack-surface」的 23 篇文章
LlamaIndex 攻擊面
LlamaIndex 整合 RAG、代理與資料連接器所構成的攻擊面分析，含具體漏洞案例。
雲端 AI 安全
給紅隊員的雲端 AI 安全完整概覽：共同責任模型、跨 AWS、Azure 與 GCP AI 服務的攻擊面、模型 API、資料管線與推論端點的威脅模型。
多雲 AI 攻擊面分析
跨 AWS、Azure 與 GCP AI 服務組合的攻擊面比較分析。
代理式編碼工具
對代理式編碼工具（如 Claude Code、Devin、Cursor Agent）的安全分析：自檔案系統存取、終端指令、MCP 工具使用，以及自主操作而擴展之攻擊面。
LoRA 與適配器攻擊面
對參數高效微調方法（包括 LoRA、QLoRA 與以適配器為基礎的做法）中安全漏洞的概覽——適配器的效率與可分享性如何建立新穎的攻擊向量。
模型類型與其攻擊面
文字、視覺、多模態、embedding 與程式碼生成模型如何各呈現紅隊員獨特之漏洞與攻擊面。
指令遵循作為攻擊面
為何大型語言模型的指令遵循能力本質上即為攻擊面。
實作：繪製 AI 系統的攻擊面
對 AI 系統進行偵察的實作課程——辨識元件、繪製資料流、枚舉工具，並撰寫攻擊面文件。
模型合併的攻擊面
透過 TIES、DARE 與 SLERP 等模型合併技術注入惡意能力或規避安全訓練的安全分析。
分詞器安全
分詞如何於 LLM 系統中創造攻擊面：BPE 利用、符元邊界攻擊、編碼邊緣案例，以及具分詞器意識的對抗技術。
LLMOps 安全
LLMOps 生命週期各階段安全的完整概覽：從資料準備、實驗追蹤到模型部署與生產監控。涵蓋 ML 營運的攻擊面、威脅模型與防禦策略。
Claude 攻擊面
Claude 特有攻擊向量，含憲法 AI 弱點、工具使用利用、系統提示處理、視覺攻擊與 XML 標籤注入技術。
Gemini 攻擊面
Gemini 特有攻擊向量，含跨圖像、音訊與視訊輸入之多模態注入、Google Workspace 整合攻擊、接地濫用，與程式碼執行利用。
GPT-4 攻擊面
GPT-4 特有攻擊向量之完整分析，包括函式呼叫攻擊、視覺輸入攻擊、系統訊息階層濫用、結構化輸出操弄，以及已知 jailbreak 模式。
模型深度剖析
為何模型特定知識對 AI 紅隊演練至關重要、不同架構如何產生不同的攻擊面,以及對任何新模型進行剖繪的系統化方法論。
音訊模型攻擊面
音訊模型安全概覽，包括對 Whisper、語音轉文字系統、語音助理以及音訊處理管線的攻擊。
影片模型攻擊
影片理解模型的安全性、影格層級攻擊與時序攻擊的差異、影片模型如何處理序列資訊，以及完整的攻擊面概觀。
AI 攻擊面繪製
辨識 AI 系統中所有攻擊向量之系統化方法論：輸入通道、資料流、工具整合與信任邊界。
微調攻擊面
微調安全漏洞的全面概觀，包括 SFT 資料投毒、RLHF 操弄、對齊稅，以及所有微調攻擊向量。
預訓練攻擊面
預訓練安全漏洞的全面概觀，涵蓋資料蒐集、清理、去重，以及 Web 規模資料集入侵攻擊向量。
Mapping the 攻擊 Surface of AI Systems
Systematic walkthrough for identifying and mapping every attack surface in an AI system, from user inputs through model inference to output delivery and tool integrations.
偵察工作流程
為 AI 紅隊委任之系統化偵察工作流程：系統提示提取、模型辨識、能力繪製、API 列舉，與記錄攻擊面。
AI 攻擊面列舉方法論
為 AI 驅動應用程式系統性列舉完整攻擊面的方法論。