隱私攻擊評量
進階2 分鐘閱讀更新於 2026-03-15
以 9 道題目測試你對 AI 系統隱私攻擊的進階知識，包括資料洩漏、PII 萃取、差分隱私失敗與推論時隱私風險。
隱私攻擊評量
本評量涵蓋對 AI 系統的進階隱私攻擊：從模型輸出的 PII 萃取、訓練資料洩漏、差分隱私失敗、對話資料暴露，以及隱私漏洞的法規合規意涵。
Knowledge Check
為何 LLM 記憶訓練資料？什麼因素增加記憶風險？
Knowledge Check
什麼是「金絲雀萃取」測試？它如何用於測量模型的記憶風險？
Knowledge Check
對話資料如何能在多租戶 LLM 部署中於使用者之間洩漏？
Knowledge Check
在 AI 隱私攻擊脈絡中，什麼是「屬性推論」？
Knowledge Check
當差分隱私應用於 LLM 訓練時的實際限制為何？
Knowledge Check
提示詞注入如何能作為隱私攻擊的向量，超越其用於行為操縱的傳統用途？
Knowledge Check
LLM 的「被遺忘權」挑戰為何？為何技術上難以處理？
Knowledge Check
什麼是針對 LLM 應用的「透過 markdown 渲染的資料外滲」攻擊？
評分指南
| 分數 | 等第 | 下一步 |
|---|---|---|
| 8-9 | 優秀 | 強的隱私攻擊知識。進入 防禦基礎評量。 |
| 6-7 | 熟練 | 檢視錯題並重溫隱私攻擊教材。 |
| 4-5 | 發展中 | 多花時間在隱私攻擊與資料保護章節上。 |
| 0-3 | 需要複習 | 在重新測試前研讀隱私基礎與資料保護法規。 |
研讀檢查清單
- 我了解 LLM 中的訓練資料記憶
- 我能解釋金絲雀萃取測試
- 我了解多租戶 LLM 部署中的跨租戶資料洩漏
- 我能描述屬性推論攻擊
- 我了解差分隱私在 LLM 訓練中的實際限制
- 我能解釋透過提示詞注入的隱私攻擊
- 我了解 LLM 的被遺忘權挑戰
- 我能描述透過 markdown 渲染的資料外滲攻擊
- 我了解 PII 萃取的隱私評估方法論