# assessment
標記為「assessment」的 113 篇文章
MCP 安全測試:如何測試 MCP 伺服器的漏洞
以防禦為核心的 MCP 伺服器實作安全測試指南——MCP 安全評估方法論、掃描工具,認證繞過、注入、穿越與資料外洩的常見測試案例,附可運作的測試腳本與回報樣板。
AI 事件後評估
對 AI 資安事件進行事件後評估,包含根本原因分析。
練習考試概覽
AI 紅隊練習考試概覽、準備策略、考試結構與最大化你分數的訣竅。
A2A 協定安全評估
評估涵蓋多代理 system 漏洞、信任邊界攻擊、agent-to-agent 協定利用。
代理架構安全評估
評估涵蓋代理設計模式、工具沙箱化、多代理信任、MCP 安全。
代理利用評估
透過 10 題中階難度題目，測試你對 AI 代理安全、工具使用攻擊、混淆代理人情境與代理式系統利用的理解。
代理記憶安全評估
評估涵蓋記憶投毒、context manipulation、exfiltration、cross-session persistence 攻擊。
代理式利用評估（評量）
透過 15 題中階難度題目，測試你對代理式 AI 攻擊、MCP 利用、函式呼叫濫用與多代理系統漏洞的知識。
自動化紅隊演練評估
評估 of automated 攻擊 generation tools包括 PAIR、TAP、GCG、custom harness development。
進階雲端 AI 安全評估
15 題進階評估,涵蓋 AWS、Azure、GCP 的雲端 AI 攻擊面:護欄繞過、知識庫利用、託管身分濫用、模型客製化風險與多雲攻擊路徑。
雲端 AI 安全評量
以 15 道中級題目測試你對 AWS、Azure 與 GCP AI 服務安全的知識，涵蓋雲端特定攻擊面與錯誤配置。
Multi-雲端 AI 安全評估
評估 spanning AWS Bedrock、Azure OpenAI、GCP Vertex AI 安全 configurations、misconfigurations。
雲端 AI Platforms 評估
評估涵蓋AWS Bedrock、Azure OpenAI、GCP Vertex AI、多雲端安全 strategies。
程式碼執行 Safety 評估
評估 of LLM-generated code safety、sandbox escape技巧、code review 自動化。
程式碼生成安全評量
以 15 道題目測試你對 AI 程式碼生成安全的知識，包括程式碼助理風險、建議投毒、IDE 整合威脅與安全 AI 輔助開發。
上下文視窗安全評估
評估 of 上下文視窗 overflow、attention manipulation、long-context 利用技巧。
Continuous AI Monitoring 評估
評估涵蓋monitoring strategies、anomaly detection、alerting thresholds、operational 安全。
Cross-Model Transfer 評估
評估 of 攻擊 transferability 跨 model families、versions、providers。
資料投毒評估
綜合評估 of training 資料投毒、synthetic data 攻擊、供應鏈漏洞。
資料隱私 in AI 評估
評估涵蓋training 資料隱私、membership inference、data extraction、privacy-preserving技巧。
防禦基礎評量
以 9 道中級題目測試你對 AI 防禦機制的理解，包括輸入／輸出過濾、護欄、沙箱化與深度防禦策略。
防禦與緩解評量
以 15 道中級題目測試你對 AI 護欄、監控系統、事件回應與深度防禦策略的知識。
Embedding、Vector Attack 評估
評估 of adversarial embedding perturbation、similarity manipulation、向量資料庫 poisoning。
嵌入與向量安全評量
以 10 道題目測試你對嵌入反演攻擊、向量資料庫安全、相似度搜尋操縱與已儲存嵌入隱私風險的理解。
AI 倫理、法律評估
評估涵蓋ethical frameworks、法律 considerations、負責任揭露 in AI 安全。
EU AI Act Compliance 評估
綜合評估 of organizational readiness的EU AI Act requirements包括紅隊 testing mandates。
Fine-Tuning Attack 評估
評估 of safety degradation through 微調、backdoor insertion、alignment removal技巧。
微調安全評量
以 15 道題目測試你對微調安全風險的知識，包括 LoRA 攻擊、RLHF 操縱、安全退化與災難性遺忘。
AI 鑑識評量
以 15 道題目測試你對 AI 事件回應、日誌分析、證據保全、行為分析與鑑識調查技術的知識。
基礎評量
以 15 道中級題目測試你對大型語言模型基礎、核心術語與 AI 威脅環境的理解。
Frontier Research 評估
綜合評估涵蓋adversarial robustness、alignment faking、sleeper agents、emerging research directions in AI 安全。
函式呼叫安全評估
評估聚焦於JSON schema injection、parameter manipulation、recursive calling、result poisoning 攻擊。
治理評量
以 15 道中級題目測試你對 AI 治理、法規框架、合規要求與負責任 AI 實務的知識。
護欄實作評量
以 9 道中級題目測試你對護欄實作策略、內容分類系統、安全分類與護欄繞過技術的理解。
IAM的AI Systems 評估
評估 of identity、access management 漏洞 specific to AI service deployments。
衝擊評量
以 10 道題目測試你對 AI 系統衝擊情境的理解，包括不實資訊生成、有害內容、聲譽損害、拒絕服務、資料腐蝕、金融詐騙與合規違反。
AI 事件回應評估
評估 of AI-specific 事件回應 procedures、鑑識、recovery capabilities。
事件回應評估
評估涵蓋AI 事件回應 procedures、evidence collection、post-incident analysis。
基礎設施安全評估
評估涵蓋model serving、container 安全、API gateway hardening、deployment pipeline threats。
基礎設施安全評量
以 10 道中級題目測試你對 AI 基礎設施安全的知識，包括模型服務、API 安全、部署架構與供應鏈風險。
越獄技術評量
以 10 道中級題目測試你對 LLM 越獄方法、繞過策略以及繞過安全訓練機制的知識。
法律與倫理考量評量
以 8 道初級題目測試你對 AI 紅隊演練法律框架、倫理邊界、負責任揭露與專業標準的理解。
LLM 架構安全評估
評估涵蓋transformer internals、tokenization 安全、attention 漏洞、model-level 攻擊。
LLM Fingerprinting 評估
評估 of model identification、behavioral fingerprinting、architecture inference技巧。
LLMOps 安全評量
以 10 道題目測試你對 MLOps 管線安全、模型部署攻擊、API 安全、監控缺口、模型登錄處投毒與 ML 之 CI/CD 的理解。
進階 MCP 安全評估
綜合評估 of MCP 協定漏洞包括 transport 攻擊、tool poisoning、capability escalation。
MCP 安全評量
以 10 道中級題目評估你對模型上下文協議（MCP）安全、工具註冊漏洞、傳輸層風險與 MCP 特定攻擊向量的知識。
紅隊方法論評量
以 9 道中級題目測試你對 AI 紅隊演練方法論（從範圍界定到報告，包括結構化方法、攻擊規劃與發現記錄）的理解。
模型萃取與隱私評量
以 9 道題目測試你對模型萃取、模型竊取、成員推論與針對 AI 系統之智慧財產竊取攻擊的進階知識。
Model 供應鏈評估
評估涵蓋model provenance、checkpoint manipulation、third-party model risks。
監控與偵測評量
以 9 道中級題目測試你對 AI 安全監控、異常偵測、日誌策略以及基於 LLM 應用之事件偵測的理解。
Multi-Turn Attack 評估
評估 of crescendo 攻擊、conversational manipulation、progressive 越獄ing技巧。
進階多模態評估
In-depth 評估 of cross-modal 攻擊 vectors包括 image injection、audio manipulation、隱寫術技巧。
多模態 Defense 評估
評估涵蓋防禦s against visual injection、audio 攻擊、cross-modal 利用。
多模態攻擊評量
以 10 道中級題目測試你對針對多模態 AI 系統之攻擊（包括基於影像的注入、音訊對抗性範例與跨模態操縱）的理解。
NIST AI RMF 評估
評估涵蓋implementation of NIST AI Risk Management Framework 跨 all four functions。
Output Safety 評估
評估 of output filtering、content classification、watermarking、data leakage prevention。
隱私攻擊評量
以 9 道題目測試你對 AI 系統隱私攻擊的進階知識，包括資料洩漏、PII 萃取、差分隱私失敗與推論時隱私風險。
專業技能評量
以 15 道中級題目測試你對 AI 紅隊演練方法論、報告撰寫、客戶演練與專業實務的知識。
提示詞注入評量
以 15 道中級題目測試你對提示詞注入類型、技術、防禦機制與現實利用的知識。
Prompt Leakage 評估
評估 of 系統提示詞 extraction技巧包括 direct probing、logprob analysis、side-channel methods。
RAG 與資料攻擊評量
以 10 道中級題目測試你對檢索增強生成攻擊向量、知識庫投毒、嵌入操縱與透過 RAG 系統進行資料外滲的知識。
Rate Limiting、Abuse 評估
評估 of rate limiting bypass技巧、成本型攻擊、billing abuse in AI services。
Reasoning Model 安全評估
評估 of chain-of-thought 利用、reasoning trace manipulation、thinking-token 攻擊。
偵察與指紋辨識評量
以 8 道初級題目測試你對 AI 系統偵察、模型指紋辨識、架構列舉與資訊蒐集技術的知識。
紅隊 Methodology 評估 (評估)
評估涵蓋scoping、planning、execution、reporting of AI 紅隊 engagements。
紅隊 Engagement Planning 評估
評估 of planning、scoping、authorization、execution methodology的AI 紅隊 engagements。
Responsible AI Disclosure 評估
評估 of 負責任揭露 practices、vulnerability reporting、coordinated disclosure的AI systems。
RLHF 利用評估
評估 of reinforcement learning from human feedback pipeline 漏洞、reward hacking。
隱寫術 Attack 評估
評估 of hidden payload delivery through steganography、zero-width characters、encoding tricks。
AI 供應鏈評估
評估涵蓋model provenance、dependency 安全、artifact integrity、deployment verification。
進階工具熟練度評估
進階評估涵蓋Garak、PyRIT、HarmBench、custom 工具開發 proficiency。
工具熟練度評量
以 9 道中級題目測試你對 AI 紅隊工具、框架、自動化平台以及它們在安全評估中之適當應用的知識。
訓練管線安全評量
以 9 道題目測試你對訓練管線攻擊的進階知識，包括資料投毒、微調劫持、RLHF 操縱與後門植入。
工作流 Patterns 安全評估
評估 of sequential、parallel、hierarchical agent 工作流利用技巧。
技能驗證概覽
AI 紅隊計時技能驗證實驗室概覽，包含格式、通過/失敗標準與準備指引。
Capstone:自駕車 AI 安全
自駕車 AI 決策系統的全範疇安全評估,涵蓋感知操弄、規劃攻擊與安全覆寫繞過。
Capstone:程式碼助理評估
Capstone 演練:對具 repository 與 CI/CD 存取權之 AI 程式碼助理的安全評估。
Capstone:教育 AI 平台
AI 輔導平台的安全評估,涉及內容安全、學生資料隱私與學術誠信。
Capstone:企業 RAG 評估
Capstone 演練:對具角色型存取控制之企業 RAG 系統的完整紅隊評估。
Capstone:以 Garak 進行深入評估
以 Garak 進行完整漏洞掃描的工具專屬 Capstone,包括 plugin 開發與自訂 probe 建立。
Capstone:法律 AI 審閱系統
AI 驅動法律文件審閱系統的端對端安全評估,涵蓋資料機密性、輸出完整性與對抗操弄。
Capstone:模型安全稽核
Capstone 演練:對部署中的 LLM 進行完整安全稽核,涵蓋攻擊面測試、護欄評估與合規檢查。
Capstone:多代理系統評估
Capstone 演練:對具 MCP 與 A2A 的多代理平台進行端對端安全評估。
Capstone:多模態系統評估
Capstone 演練:處理影像、文件與文字之多模態 AI 系統的紅隊評估。
Capstone:RAG 安全評估
Capstone 演練:對 RAG 系統的完整安全評估,涵蓋檢索投毒、索引污染、答案外洩與存取控制。
Capstone:供應鏈 AI 安全
AI 驅動供應鏈優化的紅隊評估,涵蓋資料投毒、決策操弄與營運中斷。
大型語言模型安全威脅模型
大型語言模型驅動應用程式的完整威脅模型，涵蓋所有攻擊面與威脅行動者。
AI 稽核方法論
針對 AI 系統的結構化稽核方法論,涵蓋技術、組織與合規面向。
AI 影響評估方法論
Methodology for conducting algorithmic impact assessments required by emerging regulations.
AI Insurance and Risk Transfer
Understanding AI insurance products and risk transfer mechanisms for organizational protection.
AI Vendor Security Assessment Framework
Framework for evaluating the security posture of AI vendors, model providers, and service integrations.
NIST AI 600-1 GenAI Risk Profile
NIST AI 600-1 Generative AI risk profile covering risk categories, control mappings, assessment methodology, and practical application for red team engagements.
Supplier AI Risk Assessment Guide
Conducting AI risk assessments of third-party suppliers and their AI components.
AI 治理成熟度模型
跨多個能力面向評估並提升組織 AI 治理成熟度。
教育 AI 安全
教育中 AI 的安全風險——涵蓋學術誠信威脅、適性學習操控、學生資料隱私、AI 家教攻擊與評量系統利用。
教育評量 AI 安全
AI 驅動評分、抄襲偵測、個人化學習與學生評估系統的安全。
政府 AI 採購安全
政府 AI 採購與供應商評估的安全評估考量。
教育評量 AI 安全(產業垂直領域)
教育評量 AI 的安全,包含自動評分、監考與抄襲偵測。
AI 基礎設施的滲透測試方法論
針對 AI/ML 系統的結構化滲透測試方法論，涵蓋偵查、漏洞評估、利用與報告撰寫。
實作：雲端 AI 安全評估
Conduct an end-to-end security assessment of a cloud-deployed AI service, covering API security, model vulnerabilities, data handling, and infrastructure configuration.
實驗室:雲端 AI 評估
動手實驗室,主題為conducting an 端對端 安全評估 of a 雲端部署 AI system,包括 基礎設施檢視,API 測試,模型安全 evaluation,資料流 analysis.
完整案件模擬
端對端紅隊案件模擬，複製真實世界 AI 安全評估，從範圍界定到報告交付。
FinTech 聊天機器人安全評估
對處理敏感交易之金融服務聊天機器人進行完整安全評估。
法律 AI 文件審閱評估
評估合約審閱之法律 AI 系統,檢視文件處理與權限提升漏洞。
模擬:新創 AI 評估
以有限範圍與預算對新創之 AI 驅動產品進行紅隊演練,在徹底程度與時間約束之間作務實權衡。
MLflow 安全評估
MLflow 部署的安全評估，涵蓋追蹤伺服器漏洞、產物儲存利用與模型註冊表攻擊。
多模態系統紅隊演練方法論
針對多模態 AI 系統進行安全評估的結構化方法論，涵蓋範疇定義、攻擊面列舉、測試執行，以及使用 MITRE ATLAS 映射進行報告。
AI 紅隊成熟度模型(專業篇)
評估與推進 AI 紅隊方案能力的結構化成熟度模型,涵蓋五個漸進等級。
AI 紅隊演練方法論
AI 紅隊案件的結構化方法論，涵蓋偵察、目標剖析、攻擊規劃，以及區分專業評估的技藝。
防禦面測繪方法論
在發動攻擊前，系統性辨識並測繪保護目標 AI 系統之防禦控制的方法論。
代理式系統評估方法論
為代理式 AI 系統(包含工具使用、記憶與多代理互動)設計的完整評估方法論。
多模型評估方法論
評估使用多個 AI 模型(管線或整體配置)的應用程式方法論。