# framework
標記為「framework」的 32 篇文章
LangChain 安全深入探討
LangChain 的深入安全評估，涵蓋 LCEL 執行路徑、Agent Executor 攻擊向量與自訂工具漏洞。
DSPy 安全分析
DSPy 框架之安全分析，含提示優化利用與管線注入。
AI 事件分類框架
依類型、嚴重性與回應優先順序分類 AI 資安事件的框架。
LangChain 與 LlamaIndex 安全
熱門 LLM 編排框架之安全分析。常見組態錯誤、已知 CVE、不安全預設與 LangChain、LlamaIndex 與相關 LLM 應用框架之加固指引。
函式呼叫授權框架
為函式呼叫建構細粒度授權框架,強制執行基於能力的安全。
AI 防禦分類
所有 AI 防禦途徑按層、方法與有效性組織之完整分類，提供評估防禦策略之結構化框架。
攻擊自動化框架
打造端對端攻擊自動化框架,編排偵察、載荷產生、執行與結果分析。
測試 Harness 開發指南
為 LLM 漏洞評估打造可重用測試 harness,包含目標抽象、載荷傳遞與結果收集。
多目標測試框架
打造框架以同時在多個模型提供者上測試同一攻擊套件。
Inspect AI：UK AISI 評估框架
深入解析英國 AI 安全研究院（AISI）的 Inspect 框架：任務設計、solver、scorer，打造自製評估，以及與其他 AI 評估框架的比較。
攻擊結果評分框架
開發框架以多重成功標準自動評分攻擊結果。
AI 治理框架設計
Designing organizational AI governance frameworks that integrate security, ethics, and compliance.
MITRE ATLAS 導覽
MITRE ATLAS tactics, techniques, and procedures for AI systems. How to use ATLAS for red team engagement planning and map attacks to ATLAS IDs.
OWASP LLM Top 10 Deep Dive
Each OWASP LLM Top 10 item explained with real-world examples, testing methodology for each category, and how to map red team findings to OWASP classifications.
AI Risk Appetite Framework Development
Developing organizational AI risk appetite frameworks that balance innovation with security and compliance.
UK AI Regulation Framework Analysis
Analysis of the UK's sector-specific AI regulation approach and its implications for red teaming.
整合與框架安全
AI 整合框架（LangChain、LlamaIndex、Semantic Kernel）的安全分析，涵蓋常見漏洞模式與利用技巧。
Lab: Building a Production Red Team Harness
建構 a full-featured, production-quality red team harness with multi-model support, async testing, structured result storage, and HTML reporting.
Lab: Build Jailbreak Automation
建構 an automated 越獄 testing framework that generates, mutates, and evaluates attack prompts at scale. Covers prompt mutation engines, success classifiers, and campaign management for systematic red team testing.
多模態系統紅隊演練方法論
針對多模態 AI 系統進行安全評估的結構化方法論，涵蓋範疇定義、攻擊面列舉、測試執行，以及使用 MITRE ATLAS 映射進行報告。
AI 紅隊 Methodology Standard
Standardized methodology for conducting AI red team assessments from scoping through reporting.
Ethics Framework for AI 紅隊ing
Ethical framework for AI red team operations covering responsible disclosure, dual-use considerations, and professional conduct standards.
提示詞注入分類
提示詞注入攻擊的完整分類框架，涵蓋直接與間接向量、遞送機制、目標層級與嚴重度評估，用於系統化紅隊測試。
MITRE ATLAS 快速參考
AI 系統的 MITRE ATLAS 戰術、技術與程序快速參考指南。
對抗韌性測試框架
建構一個框架，持續測試已部署的 LLM 防禦機制的對抗韌性。
工具呼叫授權框架
實作工具呼叫授權框架，在執行之前依政策驗證工具的呼叫。
AI 安全指標框架
以量化指標衡量與回報 AI 安全態勢的框架。
攻擊優先排序框架
依目標架構、時間限制與成功機率,為攻擊技術排定優先順序。
運用 MITRE ATLAS 進行 AI 攻擊對應
將 AI 紅隊演練的活動與發現對應至 MITRE ATLAS 框架的實作詳解,涵蓋戰術與技術辨識、攻擊鏈建構以及 Navigator 視覺化。
NIST AI RMF 評量 導覽
Step-by-step guide for conducting assessments aligned with the NIST AI Risk Management Framework, covering the Govern, Map, Measure, and Manage functions for AI system security.
AI 漏洞優先排序框架
依可利用性、影響與修復成本對 AI 漏洞排序的框架。
RAG 安全測試框架
為 RAG 應用建立系統性安全測試框架,含投毒與資料外洩。