# embedding
標記為「embedding」的 43 篇文章
Embedding、Vector Attack 評估
評估 of adversarial embedding perturbation、similarity manipulation、向量資料庫 poisoning。
Embedding & Vector 安全評估
評估涵蓋embedding 攻擊、vector DB poisoning、similarity manipulation、inversion 攻擊。
進階 Embedding 安全評估
進階評估涵蓋embedding inversion、vector DB 攻擊、多模態 embedding 利用。
技能驗證: Embedding 攻擊
Practical verification of embedding、向量資料庫攻擊 capabilities。
輸入/輸出過濾系統
深入探討輸入與輸出掃描的 regex、ML 分類器與嵌入式過濾器,並針對每種類型提供系統性繞過技術。
AI 異常偵測
透過統計與機器學習方法偵測 AI 系統中的越獄嘗試、異常使用樣式、輸出漂移與嵌入空間異常。
交叉編碼器重新排序攻擊
針對檢索管線中使用的交叉編碼器重新排序模型之攻擊手法。
跨語言嵌入攻擊
利用跨語言嵌入空間繞過特定語言的安全過濾器,並透過翻譯落差注入對抗性內容。
密集檢索對抗性攻擊
針對 RAG 與搜尋系統中所使用之密集檢索模型的對抗性攻擊。
密集檢索攻擊
透過構造對目標查詢獲得高相關度分數但內含惡意內容的對抗性段落,攻擊密集檢索系統。
嵌入後門攻擊
植入後門至嵌入模型,讓特定觸發器產生可預測且由攻擊者控制的嵌入。
嵌入漂移攻擊
透過反覆的小幅度操縱,使向量儲存中的嵌入逐漸產生漂移。
嵌入萃取技術
透過查詢 API 萃取嵌入模型權重或重建其行為之技術。
嵌入反演攻擊
從嵌入向量反演出原始文字或 PII 的攻擊。
嵌入模型萃取
透過查詢 API 萃取或複製專有嵌入模型。
嵌入投毒技術
透過對訓練資料或嵌入空間投毒,扭曲向量表徵的技術。
嵌入空間映射攻擊
映射與探測嵌入空間結構以辨識漏洞、聚類邊界與對齊失效。
嵌入浮水印攻擊
攻擊或繞過嵌入浮水印機制,以隱匿模型盜竊、重新訓練或未授權使用的證據。
混合搜尋利用
利用結合密集與稀疏檢索的混合搜尋系統中的漏洞。
混合搜尋操縱
操縱結合密集與稀疏檢索的混合搜尋系統,使其優先排序攻擊者選定的內容。
多向量檢索攻擊
針對 ColBERT 等多向量檢索系統的攻擊,利用其逐符元互動評分機制。
多模態嵌入攻擊
針對跨文字、影像與音訊對齊的多模態嵌入之攻擊。
RAG 檢索投毒
對 RAG 系統使用的知識庫進行投毒,影響檢索結果並引導下游生成輸出。
重新排序器對抗性輸入
為重新排序器製作對抗性輸入,以操縱最終排序順序。
重新排序器利用
利用重新排序器模型的漏洞操縱檢索管線最終排序結果。
相似度搜尋遊戲化操弄
操弄相似度搜尋以獲得不成比例的排名或可見度,例如 SEO 式的嵌入空間濫用。
相似度搜尋操縱
操縱相似度搜尋結果,以影響檢索系統的排名與可見度。
稀疏嵌入攻擊
針對 SPLADE、BM25 等稀疏嵌入與詞彙式檢索模型的攻擊。
稀疏嵌入操縱
操縱 SPLADE 等稀疏嵌入模型的詞彙權重。
向量資料庫存取控制繞過
繞過向量資料庫的存取控制與多租戶隔離,以讀取未授權的向量與中繼資料。
向量資料庫阻斷服務
針對向量資料庫的阻斷服務攻擊,包括資源耗盡、昂貴查詢與索引破壞。
向量資料庫注入攻擊
透過中繼資料過濾器、查詢參數或管理介面,對向量資料庫進行注入攻擊。
向量資料庫注入
透過中繼資料、過濾器與管理介面對向量資料庫進行注入攻擊。
語意空間注入研究
研究在語意嵌入空間而非符元空間中運作的注入 — 直接利用已學到的表徵。
Embedding Adversarial Perturbation
Craft 對抗性 inputs that produce target 嵌入 for retrieval manipulation.
嵌入 Inversion 攻擊 實作
實作embedding inversion to recover original text from 向量資料庫 embeddings.
嵌入 Basics for 安全
Underst與text embeddings與their security relevance by generating,comparing,manipulating embedding vectors.
實驗：進階嵌入操弄
操弄嵌入向量以達到目標相似度分數，用於 RAG 投毒與取回操弄。
Practical 嵌入 操控
Manipulate text to achieve target embedding similarities for poisoning retrieval augmented generation systems.
Embedding Collision 攻擊 詳解
Craft documents that collide in embedding space with target queries to hijack RAG retrieval results.
Embedding Inversion 攻擊 詳解
Walkthrough of inverting text embeddings to recover original documents from vector databases.
Embedding Poisoning Detection System
Build a detection system for identifying poisoned documents in vector databases using statistical analysis.
RAG System 紅隊 Engagement
Complete walkthrough for testing RAG applications: document injection, cross-scope retrieval exploitation, embedding manipulation, data exfiltration through retrieval, and chunk boundary attacks.