# cross-modal
13 artikelengetagd met “cross-modal”
Geavanceerd multimodaal assessment
In-depth assessment of cross-modal attack vectors including image injection, audio manipulation, and steganographic techniques.
Vaardigheidsverificatie: uitvoeren van multimodale aanvallen
Hands-on verification of image injection, audio manipulation, and cross-modal transfer attacks.
Aanvallen op multimodale embeddings
Het misbruiken van cross-modale embeddingmodellen zoals CLIP — manipulatie van de adversarial uitlijning tussen beeld en tekst, cross-modale injectie en aanvallen op multimodale retrievalsystemen.
Cross-modale embedding-aanvallen
Misbruik van gedeelde embeddingruimtes over modaliteiten heen: adversarial CLIP-afbeeldingen, typografische aanvallen, VLM-injectie en dimensionaliteitsreductie-aanvallen.
Cross-Modal-aanvalsstrategieën
Overzicht van aanvalsstrategieën die de grenzen tussen inputmodaliteiten in multimodale AI-systemen uitbuiten, waaronder vision-language-, audio-text- en documentverwerkingspijplijnen.
Cross-Modal-informatielekkage
Technieken voor het extraheren van gevoelige informatie via schendingen van modaliteitsgrenzen, waaronder systeempromptlekkage via afbeeldingsbeschrijvingen, het dumpen van het contextvenster via multimodale queries en side-channel-aanvallen over modaliteiten heen.
Multimodale verdedigingsstrategieën
Uitgebreide verdedigingsbenaderingen voor multimodale AI-systemen: cross-modal-verificatie, perceptual hashing, NSFW-detectie, inputsanitatie en defense-in-depth-architecturen.
Aanvallen overdragen tussen modaliteiten
Technieken voor het vervaardigen van vijandige inputs die overdraagbaar zijn tussen modaliteiten, waarbij één inputkanaal gebruikt wordt om de verwerking in een ander kanaal aan te vallen, waaronder image-to-text-, audio-to-action- en document-to-tool-aanvalsketens.
Cross-Modal Transfer-aanvallen
Aanvallen die overdraagbaar zijn tussen modaliteiten — waarbij één inputmodaliteit gebruikt wordt om de verwerking in een andere aan te vallen.
Multimodale beveiliging
Beveiligingsbeoordeling van multimodale AI-systemen die afbeeldingen, audio, video en cross-modale invoer verwerken, met vision-language-modellen, spraaksystemen, video-analyse en cross-modale aanvalstechnieken.
Alignment-uitdagingen in multimodale modellen
Analyse van alignment-uitdagingen die specifiek zijn voor multimodale AI-systemen, waaronder cross-modale veiligheidshiaten, representatieconflicten en de moeilijkheid om op tekst gebaseerde veiligheidstraining uit te breiden naar visuele, audio- en video-invoer.
Multimodale tekst-injectievectoren
Adversariële tekstinstructies injecteren via niet-tekstuele modaliteiten, waaronder afbeeldingen met ingebedde tekst, audiotranscriptie en documentparsing.
Cross-modale confusie
Confusing multimodal AI models by sending conflicting or complementary signals across different input modalities to bypass safety mechanisms and exploit fusion weaknesses.