國防與軍事 AI 安全

AI 於國防應用(自主系統、情報分析、決策支援)的安全意涵。

概覽

AI 於國防應用(自主系統、情報分析、決策支援、後勤、人力資源)的安全意涵。此領域 AI 安全同時涉及國家安全、國際人道法與軍事倫理。

Liu et al. 2023 —「AutoDAN: Generating Stealthy Jailbreak Prompts on Aligned LLMs」建立了貫穿本文分析的基礎威脅模型。

全文參考 MITRE ATLAS 與 OWASP LLM Top 10 2025 — LLM01(提示詞注入)等框架。

核心概念與威脅模型

基本原理

國防 AI 特性:

1. 資訊分類:多層次機密資料處理
2. 任務關鍵:失效影響國家安全
3. 對手威脅:國家級對手具最高級資源
4. 倫理/法律界線:國際人道法、交戰規則
5. 長期部署:國防系統生命週期長(數十年)

這些特性使國防 AI 的威脅模型遠超一般企業 AI。

威脅模型定義

攻擊分類法

技術深入剖析

機制分析

1. 情報分析 AI 注入:對抗性文件可影響 AI 產生的情報摘要
2. 自主系統欺騙:對影像、雷達、聲納感測器的對抗樣本
3. 決策支援操縱:注入 LLM 輔助決策的戰略文件
4. 後勤 AI 投毒:汙染供應鏈預測影響前線補給
5. 目標辨識欺騙:物理世界對抗樣本使自動目標辨識 (ATR) 失效

逐步分析

階段 1:情資蒐集

於公開來源(論文、招標、新聞)辨識目標系統類型。

階段 2:威脅塑模

依 DoD Risk Management Framework (RMF) 建構威脅假設。

階段 3:受控測試

於授權環境(國防實驗室、模擬器、紅藍對抗演習)執行。

階段 4:報告

依機密等級管控發現,遵循責任揭露流程。

實作指引

環境設定

國防 AI 紅隊環境:經授權的隔離網路(SIPRNet、JWICS 或同等)、合成資料(避免真實機密資料於測試)、硬體安全模組、完整稽核軌跡。

核心技術實作

技術實作包含:情報文件對抗樣本產生器、自主系統感知對抗樣本、決策 LLM 注入載荷、以及針對各類軍事資料集的對抗攻擊。所有實作皆需在授權環境內、遵循機密管控。

評估與成功指標

防禦評估

防禦機制分類

1. 縱深防禦:多層技術與程序控制
2. 紅藍對抗:持續對抗性測試
3. 人機協作:關鍵決策需人員核准(特別是致命武力)
4. 形式化驗證:對高風險元件使用數學證明
5. 負責任 AI 治理:倫理委員會、AI 影響評估

效能與取捨

軍事應用對即時性要求極高,但同時需最高安全性。需在兩者間取得平衡——通常透過階層化安全(快速關鍵決策搭配完整事後稽核)。

真實世界情境

產業整合

• 軍事情報:OSINT、SIGINT、GEOINT 的 AI 分析
• 自主系統:無人機、無人艇、無人地面載具
• 決策支援:指揮官作戰 AI 助理
• 後勤:預測性維護、補給鏈最佳化
• 網路作戰:AI 驅動攻防

真實事件參考

• 公開報告的對抗性目標辨識研究
• 軍用自主系統的安全評估文獻
• 國防人工智慧倫理原則公開文件

進階主題

新興威脅

1. 自主武器的 AI 安全:國際規範仍在討論
2. AI 加速的網路武器:GenAI 輔助 0day 挖掘
3. 深偽用於戰略欺騙:國家級深偽攻擊
4. 供應鏈 AI 攻擊:國防承包商 AI 模型的汙染

研究方向

活躍研究包含可信賴 AI 的形式化框架、軍事專屬的穩健化、多邊 AI 治理機制。

參考資料與延伸閱讀

• DoD Responsible AI Strategy
• NATO AI Strategy
• NIST AI RMF
• CMMC 2.0
• US Executive Order 14110 (AI)
• DoD JAIC/CDAO 公開資料
• MITRE ATLAS