領域特定安全
Beginner1 min readUpdated 2026-03-15
AI 安全挑戰如何在不同行業垂直中以不同方式顯現——涵蓋醫療、金融、客戶服務與更多領域的案例研究。
每個行業都有獨特的 AI 安全挑戰。醫療系統面對患者安全風險。金融系統面對詐欺與監管風險。客戶服務系統面對資料洩漏與聲譽風險。理解這些領域特定挑戰使紅隊員能提供更有價值的評估。
Learning Path
0/9 completed~42 min total9 lessons
- 14m醫療保健 AI 安全advanced
醫療保健 AI 系統之安全測試方法論。PHI 暴露風險、臨床決策操弄、HIPAA 合規意涵，與為健康 AI（含診斷、臨床決策支援與面向病患系統）之測試途徑。
- 24m金融服務 AI 攻擊advanced
金融服務中 AI 系統之安全分析。交易演算法操弄、信用評分攻擊、KYC/AML 繞過技術，與含 SOX 與 PCI-DSS 對 AI 部署意涵之法規框架。
- 34m自駕車 AI 安全advanced
自駕車中 AI 系統之安全分析。感知系統攻擊、決策模型操弄、V2X 通訊利用與 AV AI 漏洞之物理安全意涵。
- 44m內容審查系統攻擊advanced
攻擊 AI 驅動之內容審查系統。繞過分類器之對抗內容、為文字與圖像過濾器之逃避技術，與於平台規模不可靠審查之安全意涵。
- 510mEducation & Tutoring AI 安全intermediate
安全 analysis of AI systems in education. Academic integrity bypass, inappropriate content risks, student data protection under COPPA and FERPA, and testing methodologies for educational AI platforms.
- 61m深偽與合成媒體案例intermediate
真實世界深偽與合成媒體事件的案例研究——涵蓋政治操控、金融詐欺、聲譽攻擊與偵測規避。
- 710mCustomer Service Chatbot 安全intermediate
安全 analysis of AI-powered customer service chatbots. Data leakage vectors, brand reputation attacks, refund fraud through AI manipulation, and social engineering techniques targeting chatbot systems.
- 81m人臉辨識安全案例intermediate
人臉辨識 AI 中的安全事件案例——涵蓋偏誤與歧視、對抗性攻擊、隱私侵犯與監控濫用。
- 94mAI 招募偏誤beginner
分析 AI 於招募系統中之偏誤——含 Amazon 停用之招募工具、HireVue 視訊面試分析，以及履歷篩選演算法中之系統性偏誤。涵蓋測試方法論、法律意涵與紅隊做法。