# membership-inference

標記為「membership-inference」的 10 篇文章

模型萃取與隱私評量

以 9 道題目測試你對模型萃取、模型竊取、成員推論與針對 AI 系統之智慧財產竊取攻擊的進階知識。

針對成員推論攻擊的進階防禦技術,含差分隱私。

實務實作成員推論攻擊以判定訓練資料的成員關係。

判定特定資料是否被用來訓練 AI 模型的技術,包括陰影模型途徑、基於損失的推論、LiRA 與實務實作指引。

從嵌入向量萃取隱私敏感資訊——涵蓋嵌入反演、成員推論、屬性推論與嵌入匿名化的限制。

直接鎖定嵌入向量的攻擊概覽：對抗性嵌入產生、用於文字重建的反演攻擊，以及透過嵌入分析的成員推論。

透過距離式推論、統計檢定與嵌入行為分析，判定特定資料是否存在於嵌入模型的訓練集之中。

實作membership inference attacks to determine whether specific data was used in training an LLM.

透過針對性查詢與成員推論攻擊，從 LLM 中擷取已記憶之訓練資料、系統提示與私密資訊的技術。

訓練資料歸因方法的安全意涵,以及攻擊者如何利用歸因系統規避偵測。