AI-röstsystem kan kapas med dolda ljud
Säkerhetsforskare har utvecklat AudioHijack, en attackmetod som använder dolda ljudsignaler för att kapa AI-röstsystem genom att manipulera musikklipp, videor eller röstsamtal. Tekniken fungerar med 79-96% träffsäkerhet och testades framgångsrikt mot 13 AI-modeller, inklusive kommersiella tjänster från Microsoft och Mistral. Angripare kan få AI:n att genomföra webbsökningar, ladda ned filer och skicka mejl med känslig data.
Djupdykning
Forskarna har hittat något som låter som science fiction men faktiskt är vardagsverklighet: de kan gömma osynliga kommandon i vanlig musik eller videoklipp som får AI-assistenter att utföra dolda uppgifter. Det här är inte bara en teknisk kuriositet – det visar på en grundläggande designbrist i hur AI-system tolkar ljud, där modellerna är tränade att vara extremt känsliga för mönster men saknar förmågan att skilja mellan legitima kommandon och skadlig manipulation. Det verkligt oroande är att attacken inte kräver direkt åtkomst till systemet. När någon spelar upp en till synes oskyldig Spotify-låt eller YouTube-video i närheten av en AI-assistent, kan den i bakgrunden få enheten att skicka känslig data eller ladda ned skadlig programvara. Med en framgångsfrekvens på över 90 procent i vissa fall visar det att detta inte är ett teoretiskt hot utan en praktisk sårbarhet som påverkar miljontals enheter redan idag. Ironiskt nog kan lösningen ligga i att göra AI-system mindre "intelligenta" – att medvetet begränsa deras förmåga att uppfatta subtila ljudnyanser som människor inte hör.