# audio
16 artikelengetagd met “audio”
Beoordeling van multimodale aanvallen
Test your understanding of attacks against multimodal AI systems, including image-based injection, audio adversarial examples, and cross-modal manipulation with 10 intermediate-level questions.
Lab: adversarial voorbeelden in audio
Hands-on lab for crafting adversarial audio perturbations that cause speech-to-text models and voice assistants to misinterpret spoken commands, demonstrating attacks on audio AI systems.
Audio injection via speech-to-text-modellen
Craft adversarial audio that embeds prompt injection payloads when transcribed by speech-to-text models.
Simulatie: red team voor een spraakassistent
Red team engagement simulation targeting an AI voice assistant deployed in a smart home platform, covering audio-based prompt injection, wake word exploitation, and privacy exfiltration.
Adversariële audiovoorbeelden
Technieken voor het vervaardigen van adversariële audioverstoringen, waaronder psychoakoestische verberging, frequentiedomein-aanvallen en over-the-air adversariële audio.
Aanvallen via de audiomodaliteit
Uitgebreide aanvalstaxonomie voor audio-capabele LLM's: het genereren van adversariële audio, op spraak gebaseerde prompt-injectie, cross-modale split-aanvallen en ultrasone verstoringen.
Aanvalsoppervlak van audiomodellen
Overzicht van de beveiliging van audiomodellen, waaronder aanvallen op Whisper, speech-to-text-systemen, voice assistants en de audioverwerkingspijplijn.
Lab: Adversariële audiovoorbeelden vervaardigen
Praktijklab voor het creëren van adversariële audiovoorbeelden met Python-audioverwerking, gericht op Whisper-transcriptie met geïnjecteerde tekst.
Aanvallen op spraakherkenning
Het aanvallen van automatische spraakherkenningssystemen, waaronder adversariële audio die anders transcribeert dan gehoord, verborgen spraakcommando's en injectie van achtergrondaudio.
Voice cloning & deepfake-audio
Voice cloning voor social engineering tegen AI-systemen, het omzeilen van spraakauthenticatie, aanvallen op speaker verification en detectietechnieken.
Adversariële aanvallen op audio- en spraakmodellen
Technieken voor het vervaardigen van adversariële audio die spraakherkenning, voice assistants en audio-taalmodellen exploiteert, waaronder verborgen commando's en psychoakoestische maskering.
Injectie in het audiofrequentiedomein
Het verbergen van adversariële instructies in audiofrequentiebanden die door speech-to-text-modellen worden verwerkt maar onhoorbaar zijn voor mensen.
Verborgen audiocommando's voor voice-AI
Verberg verborgen commando's in audio die onhoorbaar zijn voor mensen maar wel worden herkend door spraakverwerkende AI.
Op audio gebaseerde injectie-aanvallen
Het aanvallen van speech-to-text- en audio-taalmodellen door het vervaardigen van adversariële audio.
Multimodale beveiliging
Beveiligingsbeoordeling van multimodale AI-systemen die afbeeldingen, audio, video en cross-modale invoer verwerken, met vision-language-modellen, spraaksystemen, video-analyse en cross-modale aanvalstechnieken.
Audio prompt injection
Injecting adversarial instructions through audio inputs to speech-to-text and multimodal models, exploiting the audio channel as an alternative injection vector.