RAG 與資料攻擊評量
中級3 分鐘閱讀更新於 2026-03-15
以 10 道中級題目測試你對檢索增強生成攻擊向量、知識庫投毒、嵌入操縱與透過 RAG 系統進行資料外滲的知識。
RAG 與資料攻擊評量
本評量評估你對針對檢索增強生成系統之攻擊技術的理解，包括知識庫投毒、嵌入操縱、檢索劫持以及透過 RAG 管線的資料外滲。在嘗試本評量之前，你應熟悉向量資料庫、嵌入模型與檢索架構。
Knowledge Check
與標準 LLM 應用相比，是什麼使 RAG 系統對間接提示詞注入特別易受攻擊？
Knowledge Check
什麼是「嵌入碰撞」？它如何用於操縱 RAG 檢索？
Knowledge Check
一家公司的 RAG 系統為員工問答索引內部 Confluence 頁面。具 Confluence 編輯存取的攻擊者新增包含隱藏文字的頁面。這是什麼類別的攻擊？
Knowledge Check
什麼是 RAG 攻擊中的「檢索劫持」技術？
Knowledge Check
攻擊者如何能利用 RAG 系統從他們沒有直接存取的知識庫外滲資料？
Knowledge Check
什麼是對 RAG 系統的「上下文視窗塞滿」攻擊？
Knowledge Check
RAG 管線中使用的分塊策略的安全意義為何？
Knowledge Check
RAG 系統中的元資料注入如何啟用更具針對性的攻擊？
Knowledge Check
對基於 RAG 之問答系統的「幻影引用」攻擊為何？
Knowledge Check
哪種防禦組合對 RAG 系統提供對抗知識庫投毒的最強保護？
概念摘要
| 概念 | 描述 | 攻擊階段 |
|---|---|---|
| 知識庫投毒 | 將惡意內容注入 RAG 資料來源 | 檢索前 |
| 嵌入碰撞 | 製作具針對性嵌入向量的文件 | 檢索前 |
| 檢索劫持 | 操縱檢索排名與選擇 | 檢索 |
| 上下文視窗塞滿 | 以攻擊者控制內容淹沒脈絡 | 脈絡組裝 |
| ACL 繞過 | 透過檢索查詢存取受限內容 | 檢索 |
| 元資料注入 | 操縱文件元資料以影響排名或信任 | 檢索前／檢索 |
| 幻影引用 | 知識庫中帶假引用的偽造事實 | 檢索後 |
| 分塊利用 | 利用分塊策略傳遞載荷 | 檢索前 |
評分指南
| 分數 | 等第 | 下一步 |
|---|---|---|
| 9-10 | 優秀 | 強的 RAG 安全知識。進入 多模態攻擊評量。 |
| 7-8 | 熟練 | 檢視錯題並重溫 RAG 安全教材。 |
| 5-6 | 發展中 | 多花時間在 RAG 架構與攻擊章節上。 |
| 0-4 | 需要複習 | 從頭研讀 RAG 基礎，包括向量資料庫與嵌入。 |
研讀檢查清單
- 我了解從攝取到回應生成的 RAG 管線
- 我能解釋知識庫投毒及其先決條件
- 我了解嵌入碰撞以及它們如何操縱檢索
- 我能描述檢索劫持技術（淹沒、擴展、置換）
- 我了解無權限感知檢索之 RAG 系統的 ACL 繞過風險
- 我能解釋上下文視窗塞滿及其對模型行為的衝擊
- 我了解分塊策略如何影響安全
- 我能描述元資料注入與幻影引用攻擊
- 我知道 RAG 系統的多層防禦方法
- 我能對基於 RAG 的應用進行威脅建模