模型類型與其攻擊面

文字、視覺、多模態、embedding 與程式碼生成模型如何各呈現紅隊員獨特之漏洞與攻擊面。

為何模型類型重要

自安全觀點，非所有 AI 模型皆平等。僅文字聊天機器人、視覺分類器、程式碼生成工具與 embedding 模型皆使用神經網路，但其輸入、輸出與失敗模式顯著差異。理解模型類型告訴你哪些攻擊可能、哪些可能成功、哪些不相關。

文字生成模型

文字生成模型（GPT-4、Claude、Llama、Mistral）接受文字輸入並產出文字輸出。它們為 AI 紅隊最常見目標。

攻擊面

獨特特徵

文字模型於網際網路規模之文字資料上訓練，此意味它們已記憶大量資訊 —— 含潛在敏感、版權與個人資料。其自然語言介面使其對無技術專業之攻擊者可存取，而其通用目的本質意味護欄必須涵蓋巨大範圍之潛在有害輸出。

視覺模型

視覺模型處理影像為輸入。此含影像分類器（ResNet、ViT）、物件偵測器（YOLO）與生成影像文字描述之影像理解模型。

攻擊面

獨特特徵

視覺模型於連續輸入空間（像素值）而非離散（token）運作，此啟用於文字模型中無直接類比之梯度基對抗擾動攻擊。視覺攻擊之物理世界適用性亦不同 —— 於停止標誌或醫療影像之對抗補丁可具安全關鍵後果。

多模態模型

多模態模型（GPT-4V、Gemini、Claude 配視覺）接受多輸入類型 —— 文字與影像，或文字、影像與音訊。它們代表能力與攻擊面兩者之前線。

攻擊面

多模態模型繼承其支援之每模態之攻擊面，加上全新跨模態攻擊向量：

獨特特徵

跨模態攻擊面為多模態模型之定義安全挑戰。每模態具其自己之前處理管線，而模態合併之融合層為高價值目標。利用不同模態如何被過濾間缺口之攻擊特別有效因護欄系統常於模態間具不一致涵蓋。

Embedding 模型

Embedding 模型（text-embedding-3、voyage-3、BGE）將文字（或其他資料）轉換為密集數值向量。它們不生成文字 —— 它們產出用於搜尋、分類與 RAG 之固定維度向量。

攻擊面

獨特特徵

Embedding 模型為 RAG 系統之基礎。若攻擊者可操弄被檢索者，其可影響生成模型之輸出而從未直接攻擊之。Embedding 攻擊為間接但高度有效因其利用生成模型置於檢索內容之信任。

程式碼生成模型

程式碼生成模型（Codex、CodeLlama、StarCoder、Copilot）被訓練以產出可執行程式碼。此造就與文字生成根本不同之風險檔案。

攻擊面

獨特特徵

程式碼生成模型之關鍵差異為其輸出常被執行。有害文字輸出令人擔憂；執行之有害程式碼為活躍利用。程式碼生成模型亦面對套件幻覺之獨特挑戰 —— 為不存在之套件生成匯入陳述，攻擊者可註冊並以惡意軟體填充。

專門與領域特定模型

數類別之專門模型呈現獨特攻擊面：

語音與音訊模型

如 Whisper（語音至文字）與文字至語音系統之模型面對對抗音訊攻擊、說話者偽造與音訊串流中之隱藏命令注入。

影像生成模型

如 DALL-E、Stable Diffusion 與 Midjourney 之模型可被操弄以生成有害影像、經混淆提示繞過內容過濾器或重現版權材料。攻擊聚焦於提示混淆與分類器逃避。

推薦模型

推薦內容、產品或動作之模型可經互動投毒（策略點擊或評級）、偏好注入與過濾器泡泡利用被操弄。

分類模型

用於內容審核、垃圾郵件偵測或安全過濾之二元或多類別分類器為逃避攻擊之目標。技術含對抗擾動、邊界利用與訓練資料操弄。

按模型類型選擇你之攻擊策略

相關主題

• AI 地景 —— 這些模型運作之較廣生態系
• 部署模式 —— 部署如何影響模型類型特定風險
• 對抗 ML：核心概念 —— 對抗攻擊之理論基礎
• LLM 如何運作 —— 文字生成模型內部之深入探討

參考資料

• "Adversarial Examples in the Physical World" - Kurakin et al.（2017）- 展示傳遞至物理世界視覺系統之對抗擾動之開創性工作
• "Visual Adversarial Examples Jailbreak Aligned Large Language Models" - Qi et al.（2023）- 對多模態語言模型之跨模態攻擊研究
• "Poisoning Language Models During Instruction Tuning" - Wan et al.（2023）- 於微調語言模型嵌入後門之技術
• "Asleep at the Keyboard? Assessing the Security of GitHub Copilot's Code Contributions" - Pearce et al.（2022）- AI 生成程式碼中安全漏洞之系統化評估