Säkerhetsforskare har upptäckt en ny anfallsmetod, AudioHijack, som använder dolda ljudsignaler för att kapa AI-drivna röstsystem. Metoden kräver inte att angriparen kontrollerar hela interaktionen med AI:n, utan kan manipulera ljudmaterial som modellen bearbetar.

Attackerna kan få AI-system att genomföra webbsökningar, ladda ned filer från angriparkontrollerade källor och skicka mejl med användardata. Forskargruppen testade tekniken mot 13 olika AI-modeller, däribland kommersiella rösttjänster från Microsoft och Mistral.

Vad innebär detta för svensk vård? Det är viktigt att vården är medveten om dessa säkerhetsrisker och vidtar åtgärder för att skydda sina AI-system, särskilt i sammanhang där känslig patientinformation hanteras.