# data-extraction

標記為「data-extraction」的 7 篇文章

嵌入反演攻擊

由嵌入向量重建輸入文字的技術：模型特定反演方法、隱私意涵，以及對抗嵌入反演的防禦。

透過利用檢索機制、文件解析、嵌入操弄與上下文視窗管理漏洞，從檢索增強生成（RAG）系統中擷取敏感資訊。

已記錄之 GPT-4 漏洞——含 DAN jailbreak、資料擷取事件、系統提示洩漏、工具使用利用，以及微調安全移除。

透過針對性查詢與成員推論攻擊，從 LLM 中擷取已記憶之訓練資料、系統提示與私密資訊的技術。

從嵌入向量還原原始文字、儲存嵌入所帶來的隱私影響、對向量資料庫的模型反演攻擊，以及嵌入空間分析技術。

針對 AI 系統資料層攻擊的概覽，包含 RAG 投毒、訓練資料操控與資料萃取技術。

AI 紅隊演練常見攻擊載荷的分類參考,包含提示詞注入、越獄、資料萃取與對抗輸入,附有效性備註。