多模態安全學習指南 (評估)

學習指南的多模態安全評估s涵蓋image、audio、document、cross-modal 攻擊。

評估總覽

Study guide for multimodal security assessments covering image, audio, document、跨模態攻擊。本評估同時測試理論理解與教材的實務應用。

評估詳情:

• 題數: 12
• 時間限制: 36 分鐘(建議)
• 通過門檻: 70%
• 難度:進階

作答說明

1. 請仔細閱讀每道題目與所有選項後再作答
2. 部分題目有多個可行做法——請選擇最佳答案
3. 情境題需先通盤考量整體脈絡再作答
4. 作答完畢後,請檢視所有題目的解析——包含答對的題目

評估格式

本評估包含選擇題、情境分析題與實務應用題。每道題對應特定能力領域,並映射至課程學習目標。

測試的能力領域

了解權重分布有助於分配學習時間。實務應用與情境分析合計權重最高,反映動手實作技能在 AI 紅隊演練中的重要性。

第 1 題

第 2 題

第 3 題

第 4 題

第 5 題

第 6 題

第 7 題

第 8 題

第 9 題

第 10 題

第 11 題

第 12 題

計分指引

學習資源

若成績低於通過門檻,請將複習重心放於:

• 你答錯題目的特定主題
• 對應弱項領域的實作課
• 題目提及之框架與工具的參考資料
• Inspect AI (UK AISI) — github.com/UKGovernmentBEIS/inspect_ai — AI safety evaluations

建議複習路徑

1. 重讀相關課程章節,聚焦於你遺漏的概念
2. 練習對應弱項能力領域的實作課
3. 複習題目引用的參考資料與研究論文
4. 重考本評估以衡量進步幅度

待複習的關鍵概念

在重考前,請確認你已熟悉以下基礎概念:

練習策略

要有效準備本評估,需同時兼顧理論研習與實作經驗:

1. 完成實作課:課程中的實作提供閱讀無法取得的實務經驗。聚焦於對應弱項領域的實作。

2. 建立心智模型:對每類漏洞,建立清晰的攻擊機制、對應防禦與部署防禦後殘留風險的心智模型。

3. 研究真實事件:檢視課程中的案例研究,了解理論漏洞如何在真實事件中顯現。請注意根因與防禦失敗。

4. 練習工具使用:本評估測試 Garak、PyRIT、Promptfoo 等工具的熟練度。請確保能在不查文件下設定並執行。

5. 理解框架:能將發現映射至 MITRE ATLAS、OWASP LLM Top 10 與相關法規框架。此技能對專業紅隊報告至關重要。

評估誠信

本評估設計用於誠實自我評估。為獲得最大價值:

• 完成所有題目再對答案
• 自行計時以模擬正式測驗情境
• 首次作答時勿查外部資料
• 無論是否答對,皆複習所有解析
• 追蹤多次作答進度以衡量進步

產業脈絡與實際應用

本文涵蓋的概念與所有跨產業部署 AI 系統的組織直接相關。理解並處理這些安全考量並非可選——已越來越受法規要求、客戶期望,且為維持組織信任不可或缺。

法規環境

多項法規框架如今明確處理 AI 安全要求:

• EU AI Act:要求高風險 AI 系統進行風險評估與安全測試,違規處罰最高達全球年營業額 7%。在歐盟部署 AI 的組織必須證明已評估並緩解本文涵蓋之風險。

• NIST AI 600-1:生成式 AI 概況提供管理生成式 AI 系統風險的具體指引,涵蓋提示詞注入、資料投毒與輸出可靠性。使用 NIST 框架的組織應將其控制措施映射至本文討論的漏洞。

• ISO/IEC 42001:AI 管理系統標準要求組織建置、實施並維護能處理安全風險的 AI 管理系統。本課程的攻防概念直接支援 ISO 42001 合規。

• US Executive Order 14110:要求特定類型 AI 系統的開發者與部署者進行紅隊測試並與政府分享結果。本課程的技巧與該行政命令的測試要求一致。

組織就緒度評估

組織可使用下列框架評估其處理本文安全主題的就緒度:

多數組織目前處於等級 1 或 2。本課程內容旨在提供有效 AI 安全計畫所需的知識、工具與方法論,協助組織邁向等級 3 及以上。

建立內部能力

對建立內部 AI 安全能力的組織,建議的進程為:

1. 基礎(第 1–3 個月):培訓安全團隊的 AI 基礎,部署基本輸入驗證與輸出過濾,建立監控基線
2. 中級(第 3–6 個月):執行首次內部紅隊評估,落實縱深防禦架構,發展 AI 專屬事件回應程序
3. 進階(第 6–12 個月):建立持續測試管線,將 AI 安全整合進 CI/CD,定期進行外部評估,貢獻產業知識
4. 專家(第二年以後):發展新型防禦技巧、發表研究、輔導其他組織,參與標準制定

參考資料與延伸閱讀

• Inspect AI (UK AISI) — github.com/UKGovernmentBEIS/inspect_ai — AI safety evaluations
• NIST AI RMF(風險管理框架)
• HarmBench — github.com/centerforaisafety/HarmBench — standardized evaluation