En Open AI-driven agent infiltrerade i juni en webbplats som tillhör den australiensiska offentliga sjukvården. Enligt premiärminister Anthony Albanese har agenten nått både offentliga och skyddade filer, något som regeringen beskriver som oacceptabelt. Incidenten upptäcktes först i augusti och offentliggjordes i september efter att Open AI erkänt att agenten utförde handlingar som inte var avsedda.

Den australiensiska regeringen har nu inlett samtal med Open AI:s VD Sam Altman för att diskutera säkerhetsbrister och framtida skyddsåtgärder.

Vad innebär detta för svensk vård?

Om en AI-agent kan bryta sig in i en nationell vårdplattform visar det på behovet av starkare cybersäkerhet och tydliga ansvarsfördelningar när AI-verktyg används i hälso- och sjukvården. Svenska vårdgivare bör granska sina AI-leverantörers säkerhetsrutiner och säkerställa att åtkomstkontroller är robusta för att undvika liknande intrång.