# methodology
標記為「methodology」的 119 篇文章
時間軸重建方法論
從 AI 系統日誌與相關遙測重建攻擊時間軸的方法論,包含事件關聯、空缺分析與敘事建構。
基礎練習考試
涵蓋 LLM 基礎、提示詞注入基本概念、安全機制、紅隊方法論與 AI 威脅全貌的 25 題中等難度練習考試。
專業級練習考試
25 題專業 AI 紅隊練習考試：演練方法論、範圍界定、報告撰寫、治理框架、客戶溝通與倫理考量。
練習考試 1：AI 紅隊基礎
涵蓋 LLM 架構、提示詞注入、代理利用、防禦機制與紅隊方法論的 25 題中等難度練習考試。
紅隊 Methodology 模擬測驗
模擬測驗涵蓋engagement planning、scoping、execution、reporting、負責任揭露。
紅隊方法論評量
以 9 道中級題目測試你對 AI 紅隊演練方法論（從範圍界定到報告，包括結構化方法、攻擊規劃與發現記錄）的理解。
專業技能評量
以 15 道中級題目測試你對 AI 紅隊演練方法論、報告撰寫、客戶演練與專業實務的知識。
紅隊 Methodology 評估 (評估)
評估涵蓋scoping、planning、execution、reporting of AI 紅隊 engagements。
紅隊 Engagement Planning 評估
評估 of planning、scoping、authorization、execution methodology的AI 紅隊 engagements。
紅隊 Methodology 評估 (評估 - W2)
評估涵蓋scoping、攻擊 trees、evidence collection、professional reporting。
專業實務學習指南
涵蓋 AI 紅隊方法論、作業管理、報告撰寫、治理框架與專業倫理的學習指南。
完整紅隊委任：端對端
自範圍至攻擊執行、證據蒐集、影響評估、報告遞送與補救驗證之 AI 紅隊委任完整指南。
完整案件方法論
進行完整 AI 紅隊案件的全面方法論，將先前章節的所有技術整合為結構化專業評估。
委任規劃與範疇界定
如何規劃並界定 AI 紅隊委任的範圍，包括目標設定、交戰規則、成功判準與方法論選擇。
AI 事件分析方法論
分析 AI 安全事件之結構化方法論。學會重建時間軸、辨識根本原因、評估影響，並自聊天機器人、資料洩漏與對齊失敗等真實案例萃取可付諸行動的教訓。
已發表紅隊報告分析
自 Anthropic、OpenAI、Google DeepMind 與 METR 之已發表紅隊報告深入分析。方法論分解、關鍵發現，與如何讀取並自專業紅隊評估學習。
紅隊演練驅動的防禦改善
運用紅隊演練發現,系統性地改善 LLM 應用的防禦。
防禦評估方法論
評估 AI 防禦對已知攻擊類別之有效性的系統化方法論。
AI 利用開發概覽
為 AI 紅隊演練開發利用程式與工具的介紹，涵蓋建構對機率性系統之可靠攻擊的獨特挑戰。
實作：工具比較——同一目標，4 個工具
對同一目標模型比較 Garak、PyRIT、promptfoo 與 Inspect AI 之實作。評估各工具之覆蓋、速度、發現品質與實務取捨。
基礎
AI 紅隊演練的核心建構區塊，涵蓋紅隊方法論、AI 景觀、大型語言模型如何運作、嵌入向量與向量系統、AI 系統架構，以及對抗性機器學習概念。
紅隊方法論基礎
什麼是 AI 紅隊演練、它與傳統安全測試有何不同，以及從範圍界定到報告的完整演練生命週期。
為 AI 系統之威脅建模
如何使用為機器學習適配之簡化威脅建模框架辨識 AI 系統特有之資產、威脅與攻擊向量。
AI 紅隊演練基礎
AI 紅隊演練的基本概念與方法論，包含目標設定、範圍界定、技術選擇與報告。
AI 影響評估方法論
Methodology for conducting algorithmic impact assessments required by emerging regulations.
AI 風險評估方法論
Structured methodologies for assessing AI system risks including quantitative, qualitative, and hybrid approaches.
AI 稽核方法論
AI 系統的全面稽核方法論,涵蓋規劃、證據蒐集、測試程序、報告範本,以及與紅隊評估的整合。
AI Risk 評量 Methodology
Structured approaches to evaluating AI system risks including identification, scoring frameworks, treatment planning, and templates for conducting comprehensive AI risk assessments.
超越 ASR 之紅隊指標
AI 紅隊之完整指標方法論，超越攻擊成功率：嚴重性加權評分、防禦深度指標、覆蓋分析，與適合利害關係人之報告框架。
AI 紅隊中的統計嚴謹度
AI 紅隊的統計方法論：樣本數決定、信賴區間、對安全聲明之假設檢定、處理非確定性，以及避免常見統計陷阱。
AI Impact Assessment Methodology (Governance Compliance)
Methodology for conducting AI impact assessments including human rights, environmental, and social dimensions.
AI 基礎設施的滲透測試方法論
針對 AI/ML 系統的結構化滲透測試方法論，涵蓋偵查、漏洞評估、利用與報告撰寫。
運用 STRIDE 對 AI 基礎設施進行威脅建模
針對機器學習管線量身打造的 AI/ML 系統威脅建模方法論，使用 STRIDE、資料流圖與攻擊樹。
注入基準測試方法論
注入攻擊與防禦的標準化基準測試方法論,使研究論文與工具間的比較具有意義。
Lab: Designing LLM Red Team Test Cases
設計 effective red team test cases with clear objectives, success criteria, and reproducible execution procedures.
Lab: Vulnerability Research Methodology
Systematic methodology lab for discovering novel AI vulnerabilities including hypothesis generation, 攻擊面 mapping, experimental design, validation protocols, and responsible disclosure.
Claude Testing Methodology
Systematic methodology for red teaming Claude models, including API probing, model card analysis, safety boundary mapping, and comparative testing across Opus, Sonnet, and Haiku tiers.
跨模型比較
系統性比較 LLM 安全性的方法論，跨模型家族進行，內容涵蓋標準化評估框架、架構差異分析與比較測試方法。
Gemini Testing Methodology
Systematic methodology for red teaming Gemini, including Vertex AI API probing, Google AI Studio testing, multimodal test case design, and grounding attack validation.
GPT-4 測試方法論
為紅隊 GPT-4 之系統化方法論，含 API 基探測技術、速率限制考量、內容政策對應與安全邊界發現。
模型深度剖析
為何模型特定知識對 AI 紅隊演練至關重要、不同架構如何產生不同的攻擊面,以及對任何新模型進行剖繪的系統化方法論。
多模態系統紅隊演練方法論
針對多模態 AI 系統進行安全評估的結構化方法論，涵蓋範疇定義、攻擊面列舉、測試執行，以及使用 MITRE ATLAS 映射進行報告。
After-Action Reviews for AI 紅隊 Operations
Structured frameworks for conducting after-action reviews that capture lessons learned, improve methodology, and demonstrate value from AI red team engagements.
AI 紅隊 Methodology Standard
Standardized methodology for conducting AI red team assessments from scoping through reporting.
AI 安全 Consulting Methodology
Structured consulting methodology for delivering AI security assessments, from client acquisition through engagement delivery.
AI 攻擊面繪製
辨識 AI 系統中所有攻擊向量之系統化方法論：輸入通道、資料流、工具整合與信任邊界。
AI 紅隊演練方法論
AI 紅隊案件的結構化方法論，涵蓋偵察、目標剖析、攻擊規劃，以及區分專業評估的技藝。
AI 紅隊演練速查表
AI 紅隊案件的濃縮快速參考，涵蓋完整生命週期、攻擊類別、常見工具、偵察與報告。
技藝
涵蓋偵察技術、AI 特定威脅建模，以及專業對抗性評估之結構化案件方法論的進階 AI 紅隊技藝。
Evidence Collection & Chain of Custody (Tradecraft)
Standards for capturing, preserving, and documenting AI red team findings: conversation logs, API traces, bypass rate measurement, and evidence packaging for reproducible reporting.
紅隊 Methodology 概覽
A structured methodology for AI red team engagements: phases, deliverables, role definitions, and how AI-specific testing differs from traditional penetration testing.
Purple Teaming for AI
Collaborative attack-defense exercises for AI systems: structuring purple team engagements, real-time knowledge transfer, joint attack simulation, and measuring defensive improvement through iterative testing.
Scoping & Rules of Engagement
Defining scope, rules of engagement, authorization boundaries, and success criteria for AI red team engagements, with templates and checklists for common engagement types.
AI-Specific Threat 模型ing
Adapting STRIDE for AI systems, building attack trees for LLM applications, identifying AI-specific threat categories, and producing actionable threat models that drive red team test plans.
AI 紅隊的工具選擇
依據目標架構、委託範圍與團隊能力，為 AI 紅隊委託選擇並配置工具的框架。
案件演練概覽
完整 AI 紅隊案件的逐步演練：從範圍界定與偵察，到攻擊執行與報告撰寫，依目標系統類型分類組織。
逐步導覽
涵蓋紅隊工具、案件方法論、防禦實作、平台特定測試與完整案件工作流程的逐步引導式導覽。
對抗性模擬設計
設計貼近真實威脅行為者與攻擊情境的對抗性模擬,用於 AI 系統的紅隊演練。
代理式系統評估方法論
為代理式 AI 系統(包含工具使用、記憶與多代理互動)設計的完整評估方法論。
AI 滲透測試規劃
規劃 AI 專屬滲透測試的完整方法論,涵蓋範圍界定、資源分配與時程。
AI 紅隊成熟度模型(方法論詳解)
用以評估並改善組織 AI 紅隊演練能力的成熟度模型。
Measuring and Reporting AI 紅隊 Effectiveness
導覽 for defining, collecting, and reporting metrics that measure the effectiveness of AI red teaming programs, covering coverage metrics, detection rates, time-to-find analysis, remediation tracking, and ROI calculation.
AI 安全指標框架
以量化指標衡量與回報 AI 安全態勢的框架。
Building AI-Specific Threat 模型s
Step-by-step walkthrough for creating threat models tailored to AI and LLM systems, covering asset identification, threat enumeration, attack tree construction, and risk prioritization.
AI 漏洞分類系統
依類型、影響與可利用性為 AI 特有漏洞分類的結構化系統。
攻擊優先排序框架
依目標架構、時間限制與成功機率,為攻擊技術排定優先順序。
Mapping the 攻擊 Surface of AI Systems
Systematic walkthrough for identifying and mapping every attack surface in an AI system, from user inputs through model inference to output delivery and tool integrations.
LLM 系統攻擊樹建構
使用 MITRE ATLAS 與 OWASP 對應建構 LLM 系統評估的系統化攻擊樹。
自動化 AI 偵察工作流程
建立自動化偵察工作流程,用於盤點 AI 應用的架構、模型與防禦配置。
協作式 AI 紅隊評估
協調多人紅隊評估,包含角色分工、溝通協定與發現去衝突。
AI 安全工具競品分析
針對紅隊作戰用途評估並比較 AI 安全工具的方法論。
合規導向測試方法論
將法規要求對應至具體測試案例,以支援合規導向的 AI 紅隊評估。
Setting Up Continuous AI 紅隊ing Pipelines
導覽 for building continuous AI red teaming pipelines that automatically test LLM applications on every deployment, covering automated scan configuration, CI/CD integration, alert thresholds, regression testing, and dashboard reporting.
持續監控整合方法論
將紅隊發現整合進持續監控系統,以進行持續威脅偵測與防禦驗證。
委任啟動流程指南
啟動 AI 紅隊委任的逐步指南：客戶初次會議、範圍界定、交戰規則、法律協議、環境設置與工具選擇。
Testing for EU AI Act Compliance
導覽 for conducting red team assessments that evaluate compliance with the EU AI Act requirements, covering risk classification, mandatory testing obligations, and documentation requirements.
Evidence Collection and Documentation Best Practices
導覽 for systematic evidence collection during AI red team engagements, covering request/response capture, screenshot methodology, chain-of-custody documentation, reproducibility requirements, and evidence organization for reports.
Evidence Collection Methods for AI 紅隊s
Comprehensive methods for collecting, preserving, and organizing red team evidence from AI system assessments, including API logs, screenshots, reproduction scripts, and chain-of-custody procedures.
Writing Executive Summaries for AI 紅隊 Reports
指南 to writing clear, impactful executive summaries for AI red team assessment reports that communicate risk to non-technical stakeholders and drive remediation decisions.
發現去重與分級
將自動化與人工測試的發現去重並分級,產出可行動且已排序的漏洞報告。
Classifying AI 漏洞 Severity
Framework for consistently classifying the severity of AI and LLM vulnerabilities, with scoring criteria, impact assessment, and examples across common finding categories.
方法論導覽
AI 紅隊案件每個階段的逐步導覽：啟動、偵察、攻擊執行與報告撰寫。
將發現對應至 OWASP LLM Top 10
將 AI 紅隊發現對應至 OWASP LLM 應用程式 Top 10 的實作詳解,涵蓋分類指引、報告範本與緩解對應。
Comparative 安全 Testing Across Multiple LLMs
導覽 for conducting systematic comparative security testing across multiple LLM providers and configurations, covering test standardization, parallel execution, cross-model analysis, and differential vulnerability reporting.
多模型測試方法論
為處理流程中使用多個 LLM 模型的應用程式,建立結構化測試方法論。
任務後續分析方法論
進行完整的任務後續分析,包含經驗教訓、技術成效與方法論精進。
Pre-Engagement Preparation Checklist
Complete pre-engagement preparation checklist for AI red team operations covering team readiness, infrastructure setup, legal requirements, and initial reconnaissance planning.
紫隊 AI 評估方法論
以協作式紫隊方法進行 AI 評估,紅藍隊作戰之間即時互相回饋。
AI 安全回歸測試方法論
設計回歸測試套件,驗證安全修復在模型更新與部署後仍維持有效。
Verifying That Remediations Are Effective
導覽 for planning and executing remediation verification testing (retesting) to confirm that AI vulnerability fixes are effective and do not introduce regressions.
風險導向 AI 測試方法
採用風險導向的測試方法,將評估資源聚焦於影響最大的漏洞類別。
Risk Scoring Frameworks for AI Vulnerabilities
導覽 for applying risk scoring frameworks to AI and LLM vulnerabilities, covering CVSS adaptation for AI, custom AI risk scoring matrices, severity classification, business impact assessment, and integration with existing vulnerability management processes.
Rules of Engagement Template for AI 紅隊 Operations
Step-by-step guide to creating comprehensive rules of engagement documents for AI red team assessments, covering authorization, scope, constraints, communication, and legal protections.
How to Scope an AI 紅隊 Engagement
Comprehensive walkthrough for scoping AI red team engagements from initial client contact through statement of work, covering target enumeration, risk-based prioritization, resource estimation, boundary definition, and legal considerations.
AI 紅隊 Scoping Checklist 導覽
Systematic walkthrough of the pre-engagement scoping process for AI red team assessments: stakeholder identification, target enumeration, scope boundary definition, resource estimation, and rules of engagement documentation.
AI 紅隊演練的利害關係人管理
在 AI 紅隊任務全程管理利害關係人期待與溝通。
利害關係人導向回報方法論
為不同利害關係人(主管、開發者、安全團隊、合規人員)量身製作紅隊報告。
AI 安全桌上推演
設計並主持以 AI 安全事件情境為主題的桌上推演。
Creating Detailed Technical Appendices
指南 to building comprehensive technical appendices for AI red team reports, including evidence formatting, reproduction procedures, tool output presentation, and raw data organization.
Developing Comprehensive AI 安全 Test Plans
Step-by-step guide to developing structured test plans for AI red team engagements, covering test case design, automation strategy, coverage mapping, and execution scheduling.
Threat 模型ing for LLM-Powered Applications
Step-by-step walkthrough for conducting threat modeling sessions specifically tailored to LLM-powered applications, covering data flow analysis, trust boundary identification, AI-specific threat enumeration, risk assessment, and mitigation planning.
AI Threat 模型ing Workshop 導覽
Step-by-step guide to running an AI-focused threat modeling workshop: adapting STRIDE for AI systems, constructing attack trees for LLM applications, participant facilitation techniques, and producing actionable threat models.
時間限制型 AI 評估方法論
以優先排序的攻擊樹與平行測試,在嚴格時間限制下最大化測試覆蓋率。
AI 攻擊面列舉方法論
為 AI 驅動應用程式系統性列舉完整攻擊面的方法論。
AI 合規測試方法論
針對法規合規要求(含 EU AI Act 與 NIST)測試 AI 系統的方法論。
將發現對應至 MITRE ATLAS
將 AI 紅隊發現對應至 MITRE ATLAS 戰術、技術與程序的方法論。
AI 滲透測試報告結構
AI 滲透測試的詳細報告結構,含發現樣板與嚴重度評分。
AI 紅隊範圍界定樣板
跨不同應用類型界定 AI 紅隊任務範圍的樣板與程序。
AI 風險量化方法論
針對 AI 漏洞進行量化風險評估的方法論,含機率與影響評分。
AI 安全桌上推演設計
設計並主持 AI 安全桌上推演,用以評估組織備戰能力。
AI 測試期間的證據蒐集
AI 紅隊評估期間蒐集、組織與保存證據的最佳實務。
多模型評估方法論
評估使用多個 AI 模型(管線或整體配置)的應用程式方法論。
OWASP LLM Top 10 測試方法論
針對 OWASP LLM Top 10 2025 每一項漏洞的完整測試方法論。
AI 安全紫隊作戰
將紅隊攻擊與藍隊防禦精進結合的紫隊作戰方法論。
AI 安全回歸測試方法論(方法論詳解)
AI 應用在更新與模型變更後進行持續回歸測試的方法論。
向利害關係人傳達 AI 風險
向技術與非技術利害關係人有效傳達 AI 安全風險的指南。
AI 系統的威脅情資
針對 AI 系統攻擊與防禦蒐集並應用威脅情資的方法論。
AI 漏洞優先排序框架
依可利用性、影響與修復成本對 AI 漏洞排序的框架。
撰寫 AI 紅隊報告
撰寫清晰、可行動的 AI 紅隊評估報告(含發現與建議)的指南。