產業別：各行業的 AI 安全

涵蓋醫療、金融服務、法律、政府與關鍵基礎設施的產業特定 AI 安全挑戰、法規要求與紅隊演練方式的完整指南。

AI 安全視情境而定。同一個提示詞注入技術，在行銷聊天機器人上可能產生令人尷尬的截圖，在臨床決策支援系統上卻可能導致誤診、在演算法交易平台上觸發未經授權的交易，或在法律證據揭示過程中抑制關鍵證據。產業不僅在所部署的技術上不同，也在其所屬的法規框架、所管理的資料敏感度，以及失敗後果上有所不同。

本節為特定產業提供詳盡的攻擊與防禦指南。每個產業章節涵蓋該部門常見的 AI 系統、形塑安全需求的法規義務、通用測試所忽略的領域特定攻擊向量，以及能為該產業組織產出可行動結果的測試方法論。

為何通用紅隊演練會失敗

領域落差問題

多數 AI 紅隊方法論是在通用聊天機器人與內容生成系統的脈絡下發展的，它們聚焦於提示詞注入、越獄與內容政策違反。這些技術重要，但若未經領域調適就套用，所產出的結果對產業特定部署而言同時「過廣」也「過窄」。

過廣： 通用紅隊案件可能回報醫療 AI 可被越獄以產出不當笑話。技術上雖為一項發現，但它在重要性上遠低於同一系統被操控以抑制藥物交互作用警告的領域特定風險。通用嚴重度評級無法捕捉領域特定後果。

過窄： 通用測試聚焦於文字介面。金融交易 AI 最危險的攻擊面可能是用以觸發特定交易模式的對抗性市場資料；醫療影像系統的關鍵漏洞是 DICOM 檔案中的對抗性擾動，而非文字提示詞。產業特定測試必須涵蓋領域特定的輸入模態。

後果放大倍率

相同的漏洞類別在不同產業產生的後果有數量級差距：

各產業的法規版圖

醫療

醫療 AI 在任何部門中運作於最複雜的法規框架之一。在美國，HIPAA 管轄受保護健康資訊（PHI）的處理，任何處理、產生或可存取 PHI 的 AI 系統皆須遵守其隱私與安全規則。FDA 透過依風險層級分類並要求較高風險應用進行上市前審查的框架，監管以 AI/ML 為基礎的醫療裝置軟體（SaMD）。FDA 的「預設變更控制計畫」框架則處理會隨時間學習與適應的 AI 系統如何維持法規遵循。

在歐盟，歐盟 AI 法將多數醫療 AI 於附件 III 下分類為高風險，課以符合性評估、風險管理系統與人類監督等要求。歐盟醫療裝置法規（MDR）為用於診斷或治療之 AI 新增裝置特定要求。

紅隊意涵：每項發現都必須評估法規通知要求，且測試環境的設計必須避免實際造成法規違反。

金融服務

金融 AI 受多層法規框架約束。在美國，SEC 對演算法交易與機器人理財提供指引；OCC 發布模型風險管理指引（SR 11-7/OCC 2011-12）；CFPB 執行適用於 AI 驅動信貸決策的公平放貸要求。PCI-DSS 管轄任何觸及支付卡資料的 AI 系統；銀行保密法及其實施法規要求 AML/KYC 系統達到特定效能標準。

國際上，巴塞爾銀行監管委員會已發布銀行業 AI 原則；歐洲的 MiFID II 對演算法交易系統課以特定要求，包含緊急停止開關、測試要求與稽核軌跡。

紅隊意涵：金融 AI 漏洞經常觸發強制性法規通報。模型風險管理框架要求對 AI 模型進行已記錄的測試，使紅隊發現直接與合規義務相關。

法律

法律 AI 運作於由專業責任規則、法院程序要求與持續演進的律師公會指引所形塑的環境中。美國律師協會的《專業行為模範規則》課以能力義務，擴及至理解實務中所用的 AI 工具。法院已開始制裁提交包含偽造引用之 AI 生成訴狀的律師，確立 AI 幻覺為專業責任議題。

聯邦民事訴訟規則管轄電子揭示流程，用於文件審查的 AI 系統必須符合可辯護性標準。特權審查 AI 必須達到能保護律師—客戶特權的正確率，因為不慎揭露可能放棄特權。

紅隊意涵：法律 AI 的失敗常在對造律師有動機辨識錯誤的對立程序中顯現。測試必須考量法律程序本身的對立本質。

政府

政府 AI 部署受 14110 號行政命令（安全、可靠且值得信賴的 AI）、OMB AI 治理備忘錄（M-24-10、M-24-18）與 NIST AI 風險管理框架約束。FedRAMP 為聯邦機構使用的雲端 AI 服務提供授權框架，雖然 AI 特定控制仍在發展中。州與地方政府的 AI 部署面臨日益複雜的州級 AI 法規拼貼。

影響個人權利或安全的系統——福利判定、執法、移民——在憲法正當程序要求與機關特定法規下受更高審查。

紅隊意涵：政府 AI 系統常影響弱勢人口，帶有憲法意涵。測試必須考量偏見、可近用性與正當程序要求，而不僅是技術安全。

關鍵基礎設施

關鍵基礎設施 AI 落於透過 CISA 與部門風險管理機關協調的部門特定法規框架之下。NERC CIP 標準管轄大電力系統的網路安全，包含 AI 元件；TSA 安全指令處理管線與地面運輸營運者的網路安全；EPA 與州機關則監管水處理系統。

13636 號行政命令與 NIST 網路安全框架提供整體結構，並附能源、運輸、水與通訊的部門特定補充。

紅隊意涵：關鍵基礎設施 AI 的失敗可能造成實體傷害、環境損害與跨互連系統的連鎖故障。測試需特殊安全協定並與系統營運者協調。

各產業常見的 AI 部署

理解各產業實際部署何種 AI 系統，對界定案件範圍至關重要：

部署模式矩陣

組織產業特定案件

階段 1：領域偵察

測試任何產業特定 AI 系統前，先投入時間理解領域脈絡：

1. 1

   法規對應

   辨識適用於受測 AI 系統的每項法規。建立將 AI 能力對應到法規要求的矩陣。對每項法規，判定何者構成可通報事件——這就定義了您的關鍵發現門檻。

2. 2

   資料分類

   將 AI 系統存取、處理或產生的每種資料類型分類。把每種資料類型對應到其法規保護（PHI、PII、PCI 資料、機密資訊、特權通訊）。辨識 AI 處理可能改變分類或處理要求的資料流。

3. 3

   後果建模

   對每種潛在漏洞類別，建模其領域特定後果。與領域專家（臨床醫師、交易員、律師、系統營運者）合作，將技術發現翻譯為商業與安全影響。建立對產業脈絡校準的嚴重度評級。

4. 4

   利害關係人辨識

   辨識案件需納入的所有利害關係人。產業特定測試通常需要領域專家、合規主管、法律顧問與營運員工，超越標準 IT 安全團隊。

階段 2：領域調適測試

將您的測試方法論調適為涵蓋產業特定攻擊向量：

Generic Test                    Domain Adaptation
──────────────                  ─────────────────
Prompt injection           →    + Domain terminology injection
                                + Regulatory keyword manipulation
                                + Professional authority impersonation

Data extraction            →    + Protected data class targeting
                                + Cross-record contamination
                                + Regulatory breach threshold testing

Output manipulation        →    + Safety-critical output alteration
                                + Professional standard deviation
                                + Downstream system impact

Model behavior             →    + Domain bias testing
                                + Fairness across protected classes
                                + Professional competency assessment

階段 3：領域情境化報告

產業特定發現需要產業特定報告：

跨領域主題

本節涵蓋的所有產業中有幾項反覆出現的主題：

AI 供應鏈風險

每個產業都仰賴少數幾家供應商的基礎模型、嵌入服務與 AI 基礎設施。基礎模型中的漏洞會同時傳播至每個產業。產業特定紅隊演練必須考量組織直接控制之外的供應鏈相依性。

人類—AI 互動模式

人類與 AI 互動的方式依產業而異。臨床醫師可能例行覆寫 AI 建議；交易員在時間壓力下可能對 AI 輸出僅做最小審查即依賴；律師可能把 AI 草稿當作大幅編輯的起點。這些互動模式決定 AI 漏洞是理論上還是實務上可被利用。

偏見與公平性作為安全議題

在醫療、金融、政府與執法中，AI 偏見不僅是倫理顧慮——而是法規合規與法律責任議題。信用評分中的歧視性 AI 輸出違反公平放貸法；執法中有偏見的臉部辨識違反公民權利保護。此類產業的紅隊測試必須將公平性測試列為安全要求。

事件回應複雜度

受監管產業的 AI 事件觸發多維度回應義務。透過醫療 AI 的 PHI 暴露需要 HIPAA 違規通知；透過信貸 AI 的公平放貸違反需要法規通報。產業特定事件回應計畫必須考量這些領域特定義務。

本節導覽

本節每個產業遵循一致的結構：

1. 概覽 ——該產業的 AI 部署版圖、關鍵風險與法規脈絡
2. 攻擊指南 ——該產業 AI 系統特定的詳盡攻擊技術
3. 法規深度探討 ——特定法規如何適用於 AI，以及紅隊員需知
4. 領域特定技術 ——該產業技術堆疊獨有的測試方法

相關主題

• 領域特定 AI 安全（案例研究） ——跨產業的入門領域意識
• 治理、法律與合規 ——法規框架與合規測試方法論
• 專業技能與營運 ——案件範圍界定與報告最佳實務
• 防禦與緩解 ——跨產業適用的防禦策略

參考文獻

• 《AI 風險管理框架（AI RMF 1.0）》 - 美國國家標準與技術研究院（2023）——跨產業風險管理指引，附高後果 AI 系統的領域特定剖面
• 《歐盟人工智慧法》 - 歐洲議會（2024）——依領域對 AI 系統進行以風險為基礎的分類，並對醫療、金融與執法的高風險應用訂定特定要求
• 《部門特定 AI 指引》 - 金融穩定委員會、WHO、OECD（2024）——針對金融服務、醫療與公部門部署所訂的國際 AI 治理指引
• 《AI 事件資料庫：部門分析》 - Responsible AI Collaborative（2025）——依產業對已回報 AI 事件進行分類與分析，提供領域特定失敗模式的實證資料