# embedding
43 artikelengetagd met “embedding”
Beoordeling van embedding- en vectoraanvallen
Assessment of adversarial embedding perturbation, similarity manipulation, and vector database poisoning.
Beoordeling van embedding- en vectorbeveiliging
Assessment covering embedding attacks, vector DB poisoning, similarity manipulation, and inversion attacks.
Geavanceerd beveiligingsassessment van embeddings
Advanced assessment on embedding inversion, vector DB attacks, and multimodal embedding exploitation.
Vaardigheidsverificatie: aanvallen op embeddings
Practical verification of embedding and vector database attack capabilities.
Input-/outputfiltersystemen
Diepgaande verkenning van regex-, ML-classifier- en embedding-gebaseerde filters voor zowel inputscanning als outputscanning, met systematische bypass-technieken voor elk type.
AI-anomaliedetectie
Jailbreakpogingen, ongebruikelijke gebruikspatronen, uitvoerdrift en anomalieën in de embeddingruimte detecteren in AI-systemen via statistische en op ML gebaseerde methoden.
Aanvallen op cross-encoder reranking
Aanvallen op cross-encoder reranking-modellen die in retrieval-pipelines worden gebruikt.
Cross-linguale embedding-aanvallen
Cross-linguale embeddingruimtes misbruiken om taalspecifieke veiligheidsfilters te omzeilen en adversarial inhoud te injecteren via vertaalgaten.
Adversarial aanvallen op dense retrieval
Adversarial aanvallen op dense retrieval-modellen die worden gebruikt in RAG- en zoeksystemen.
Aanvallen op dense retrieval
Aanvallen op dense-retrieval-systemen door adversariële passages te construeren die hoge relevantiescores behalen voor doelqueries terwijl ze kwaadaardige content bevatten.
Backdoor-aanvallen op embeddings
Het inbouwen van backdoors in embeddingmodellen waardoor specifieke triggerinvoer vooraf bepaalde embeddingvectoren produceert voor adversarial retrieval.
Embedding-driftaanvallen
Geleidelijke embedding-drift veroorzaken in vector stores door herhaalde kleine manipulaties.
Technieken voor embedding-extractie
Methoden om de gewichten en het gedrag van embeddingmodellen te extraheren via API-toegang, waaronder dimensiereductie en reconstructie-aanvallen.
Embedding-inversieaanvallen (embeddingvectorbeveiliging)
Originele tekst reconstrueren uit embeddingvectoren met inversietechnieken.
Embedding-modelextractie
Het gedrag van een embeddingmodel extraheren door systematisch de API te bevragen.
Technieken voor embedding-poisoning
Technieken om embeddingruimtes te vergiftigen en zo retrieval en similarity search te manipuleren.
Mappingaanvallen op de embeddingruimte
Topologie-analyse van de embeddingruimte gebruiken om adversarial gebieden te identificeren en invoer te maken die gerichte embeddingrepresentaties oplevert.
Watermerk-aanvallen op embeddings
Watermerkschema's voor embeddings aanvallen en omzeilen die worden gebruikt voor het volgen van content en de bescherming van intellectueel eigendom.
Misbruik van hybride zoekopdrachten
Hybride dense-sparse zoeksystemen misbruiken via gecoördineerde embeddingmanipulatie.
Manipulatie van hybride zoekopdrachten
Hybride zoeksystemen aanvallen die dense en sparse retrieval combineren, door kwetsbaarheden in score fusion en re-ranking te misbruiken.
Multi-vector retrieval-aanvallen
Het misbruiken van multi-vector retrieval-modellen zoals ColBERT via adversariële manipulatie op tokenniveau en het misbruiken van late interaction.
Aanvallen op multimodale embeddings (beveiliging van embeddingvectoren)
Aanvallen op multimodale embeddingruimtes zoals CLIP voor cross-modale manipulatie.
Vergiftiging van RAG-retrieval
Het vergiftigen van documentcollecties om te manipuleren wat RAG-systemen ophalen, waardoor indirecte prompt injection op schaal mogelijk wordt.
Adversarial invoer voor rerankers
Het construeren van adversariële input die cross-encoder reranking-modellen in retrieval-pijplijnen manipuleert.
Technieken voor misbruik van rerankers
Aanvallen op cross-encoder rerankers die in retrieval-pipelines met meerdere fasen worden gebruikt om adversariële documenten voorbij de initiële retrieval-filtering te promoten.
Gaming van similarity search
Technieken om adversarial inhoud te maken die similarity search manipuleert, zodat documenten onder controle van de aanvaller bovenaan eindigen in de retrievalresultaten.
Manipulatie van similarity search
Het manipuleren van de resultaten van similarity search door het vervaardigen van adversarial embeddings.
Aanvallen op sparse embeddings
Sparse-embeddingmethoden (BM25, SPLADE) misbruiken via keyword stuffing, manipulatie van termfrequentie en indexvergiftiging.
Manipulatie van sparse embeddings
Het manipuleren van sparse embeddings (BM25, SPLADE) om retrievalresultaten te vergiftigen.
Technieken om toegangscontrole van de vector-DB te omzeilen
Technieken om toegangscontrole van vectordatabases te omzeilen, waaronder namespace escaping, metadata-injectie en querymanipulatie.
Denial of service van de vectordatabase
Denial-of-service-aanvallen op vectordatabases via adversariële querypatronen, het opblazen van indexen en het uitputten van resources.
Injectie-aanvallen op de vectordatabase (beveiliging van embeddingvectoren)
Uitgebreide technieken voor het injecteren van adversarial vectoren in vectordatabases om retrievalresultaten te manipuleren en de uitvoer van RAG-systemen te beïnvloeden.
Injectie-aanvallen op de vectordatabase (overzicht beveiliging van embeddingvectoren)
Adversariële documenten in vectordatabases injecteren om de zoekresultaten van retrieval te beïnvloeden.
Onderzoek naar injectie in de semantische ruimte
Onderzoek naar injecties die opereren in de semantische embeddingruimte in plaats van de tokenruimte en aangeleerde representaties direct misbruiken.
Adversarial verstoring van embeddings
Craft adversarial inputs that produce target embeddings for retrieval manipulation.
Implementatie van embedding-inversieaanval
Implement embedding inversion to recover original text from vector database embeddings.
Embedding-grondbeginselen voor beveiliging
Understand text embeddings and their security relevance by generating, comparing, and manipulating embedding vectors.
Lab: geavanceerde embedding-manipulatie
Manipulate embedding vectors to achieve target similarity scores for RAG poisoning and retrieval manipulation.
Praktische manipulatie van embeddings
Manipulate text to achieve target embedding similarities for poisoning retrieval augmented generation systems.
Walkthrough: embedding-collisieaanval
Craft documents that collide in embedding space with target queries to hijack RAG retrieval results.
Walkthrough: embedding-inversieaanval
Walkthrough of inverting text embeddings to recover original documents from vector databases.
Detectiesysteem voor embedding-poisoning
Build a detection system for identifying poisoned documents in vector databases using statistical analysis.
Red team-engagement voor een RAG-systeem
Complete walkthrough for testing RAG applications: document injection, cross-scope retrieval exploitation, embedding manipulation, data exfiltration through retrieval, and chunk boundary attacks.