# data
標記為「data」的 13 篇文章
函式呼叫資料外洩
利用函式呼叫參數或結果傳輸私有資料至攻擊者掌控端點的外洩技術。
agentic-exploitationfunction-callingexfiltrationdata
資料隱私 in AI 評估
評估涵蓋training 資料隱私、membership inference、data extraction、privacy-preserving技巧。
assessmentssectionprivacydataassessment
梯度洩漏攻擊
從聯邦與協同學習情境中的梯度更新擷取訓練資料。
attacksgradientdatatrainingleakage
記憶化利用
從大型語言模型中擷取被記憶訓練資料的進階技術。
dataexploitationmemorizationtraining
屬性推論攻擊
透過分析模型行為與輸出來推論訓練資料集的全域屬性。
attacksinferencedatapropertytraining
合成資料投毒(實務)
合成資料投毒攻擊的實作演練,附詳細程式範例。
syntheticpracticaldatapoisoningtraining
Data Heist Challenge
萃取a secret database of customer records from a RAG-enabled chatbot with strict data access controls.
heistctfchallengedatalabs
特徵儲存的安全
保護 ML 管線中的特徵儲存,防範投毒與未授權存取。
llmopsfeature-storesecuritydata
預訓練資料攻擊
攻擊預訓練資料管道,包括網路爬取投毒與資料策劃操弄。
training-pipelinepre-trainingdataattacks
偏好資料投毒(訓練管道)
投毒 RLHF 與 DPO 使用的偏好資料,將模型對齊推向攻擊者目標。
preferencepipelinedatapoisoningtraining
訓練資料來源攻擊
攻擊訓練資料來源與歸因系統,植入未驗證的資料來源。
provenancetrainingpipelinedata
Data Harvesting Through LLM Apps
Complete walkthrough of systematic data extraction from LLM applications using various exfiltration channels.
attacksharvestingdatawalkthroughwalkthroughs
RAG Poisoning End-to-End 詳解
Complete walkthrough of poisoning a RAG system from document injection through information extraction.
walkthroughsragpoisoningdata