深偽事件與偵測
中級3 分鐘閱讀更新於 2026-03-15
分析重大深偽事件，包括政治不實資訊、金融詐騙、未經同意內容與企業冒充。涵蓋偵測技術、防禦技術與不斷演進的對抗環境。
深偽技術——以 AI 生成、令人信以為真地模仿真實人物的合成媒體——已從研究上的好奇心演變為重大的安全威脅。使用深偽語音與影像的金融詐騙已造成數百萬美元的損失，政治深偽已干擾選舉，未經同意的深偽內容也造成嚴重的個人傷害。對 AI 紅隊而言，理解深偽事件至關重要，因為產生深偽的同一批生成式 AI 技術，也廣泛存在於他們所測試的 AI 系統之中。
重大深偽事件
金融詐騙
| 事件 | 年份 | 衝擊 |
|---|---|---|
| 香港金融員工詐騙 | 2024 | 一名員工在與看似公司 CFO 與其他高層的視訊通話後，轉出 2,500 萬美元——所有人都是深偽。攻擊者利用公開可得的影片，建立了具說服力的即時深偽 |
| 英國能源公司 CEO 詐騙 | 2019 | 一名 CEO 在接到聽起來像他老闆的電話後，轉出 24.3 萬美元——該語音為 AI 深偽。這是最早記錄在案的深偽語音詐騙案例之一 |
| 銀行語音複製攻擊 | 2023-2024 | 多家銀行通報試圖以複製的客戶語音繞過語音認證的事件。部分攻擊以短至 3 秒的語音樣本即告成功 |
政治不實資訊
| 事件 | 年份 | 背景 |
|---|---|---|
| 澤倫斯基投降深偽影片 | 2022 | 一段烏克蘭總統澤倫斯基呼籲士兵投降的深偽影片在俄烏衝突期間於社群媒體流傳。雖很快被識別為假，但展示了戰時不實資訊的潛在威力 |
| 深偽自動語音電話（美國初選） | 2024 | 模仿拜登總統聲音的 AI 自動語音電話勸阻選民參加新罕布夏州初選。FCC 後續依現行電話行銷法將 AI 生成語音電話判定為非法 |
| 深偽政治廣告 | 2023-2024 | 多場政治競選未經揭露便在廣告中使用 AI 生成的影像與音訊，使數個轄區做出法規回應 |
未經同意內容
未經同意的深偽色情內容是數量上最普遍的深偽濫用形式：
- 網路上超過 90% 的深偽是未經同意的色情內容
- 受害者絕大多數為女性，包括公眾人物、記者與一般私人
- 製作工具普及到青少年也能對同學製作深偽
- 法律框架仍在追趕中，許多轄區尚缺乏深偽專屬立法
企業冒充
- 深偽高層視訊通話用於對員工進行社交工程攻擊
- 假冒客服人員使用複製語音進行網路釣魚
- 偽造商業通訊使用真實高層的 AI 生成語音
偵測技術
當前偵測方法
| 方法 | 運作原理 | 優勢 | 限制 |
|---|---|---|---|
| 生理訊號分析 | 偵測皮膚因心跳產生的顏色變化是否缺失、眨眼或呼吸模式是否不一致 | 對當前生成器有效 | 未來生成器可能納入生理訊號 |
| 頻率分析 | 分析真實與合成媒體之間音訊／影像的頻譜模式差異 | 可捕捉人眼看不見的偽影 | 生成模型在產生自然頻譜上不斷進步 |
| 來源追蹤 | 在拍攝時將密碼學簽章嵌入真實內容（C2PA 標準） | 不會被更佳的生成器擊敗 | 需要相機／手機製造商採用 |
| AI 偵測器 | 訓練分類器以區分真實與合成媒體 | 可偵測人類錯過的細微模式 | 軍備競賽：偵測器落後於生成器 |
| 脈絡分析 | 將媒體中的主張與已知事實、元資料與來源追蹤進行比對 | 不論生成品質皆可運作 | 需要人為判斷與時間 |
偵測軍備競賽
生成品質隨時間演進：
2017: ████░░░░░░ (明顯偽影)
2019: ██████░░░░ (受過訓練的眼睛可偵測)
2021: ████████░░ (需要工具偵測)
2023: █████████░ (近乎照片寫實)
2025: ██████████ (越來越難以區辨)
偵測準確度隨時間演進：
2017: ██████████ (容易偵測)
2019: █████████░ (多數可偵測)
2021: ████████░░ (偵測仍領先)
2023: ███████░░░ (偵測開始落後)
2025: ██████░░░░ (偵測面臨挑戰)
防禦策略
技術防禦
-
內容來源追蹤 (C2PA)。 內容來源與真實性聯盟 (Coalition for Content Provenance and Authenticity) 標準在拍攝點將密碼學簽章嵌入媒體中，建立不可破壞的來源鏈。這是最有前景的長期防禦，因為它不依賴於偵測假內容——它認證原始內容。
-
多因素驗證。 對於金融交易與身分驗證，從單一因素生物辨識認證（語音、臉部）轉移到無法被深偽單獨擊敗的多因素方法。
-
活體偵測。 對於即時影像驗證，實施活體檢查，要求預錄深偽無法執行的動作（隨機頭部動作、特定詞語、與實體物件互動）。
流程防禦
| 流程 | 保護機制 |
|---|---|
| 金融轉帳驗證 | 對大額轉帳要求頻外確認（撥打已知號碼，而非請求中所提供的號碼） |
| 身分驗證 | 包含深偽無法提供之物件（實體 token、知識因子）的多因素驗證 |
| 內容認證 | 透過經過認證的通道發佈內容，並進行密碼學簽署 |
| 員工培訓 | 訓練員工辨識深偽指標，並對異常請求遵循驗證程序 |
紅隊演練意涵
深偽技術在以下幾個面向與 AI 紅隊演練相關：
| 應用 | 紅隊相關性 |
|---|---|
| 社交工程 | 測試深偽音訊／影像是否能繞過 AI 鄰近系統中的身分驗證 |
| 生物辨識繞過 | 針對臉部辨識與語音認證系統測試深偽輸入 |
| 內容審核 | 測試內容審核 AI 是否能偵測深偽內容 |
| 多模態注入 | 利用合成媒體作為多模態 AI 系統中提示詞注入的載體 |
| 信任邊界測試 | 測試 AI 代理是否在未經驗證的情況下信任影像／音訊輸入 |
相關主題
- Facial Recognition - 深偽直接威脅的生物辨識 AI
- Multimodal Attacks - 利用合成媒體進行 AI 攻擊
- Content Moderation AI - 必須偵測深偽的 AI 系統
- Ethics & Disclosure - 深偽技術的倫理意涵
參考資料
- "The State of Deepfakes: Landscape, Threats, and Impact" - Deeptrace Labs (2023) - 年度深偽普及度與趨勢調查
- "Creating and Detecting Deepfakes: A Survey" - Mirsky & Lee (2021) - 生成與偵測方法的全面技術調查
- "C2PA Technical Specification" - Coalition for Content Provenance and Authenticity (2024) - 內容來源追蹤的技術標準
- "Deepfake Financial Fraud: Analysis of Threat Patterns" - CrowdStrike (2024) - 深偽促成金融攻擊的分析
Knowledge Check
為什麼內容來源追蹤 (C2PA) 是比基於偵測的方法更為可持續的深偽防禦？