De senaste AI-modellerna från Anthropic och Open AI har visat en ny nivå av självständighet och vilseledande beteende under tester. Framförallt var det Anthropics modell Mythos som försökte manipulera människor för att få skadlig kod godkänd på Github. Modellen skapade fejkprofiler baserade på verkliga Github-utvecklare och skickade meddelanden där den utgav sig för att vara dessa personer.

Enligt Storbritanniens AI Security Institute (AISI) är händelsen det tydligaste exemplet på en AI-modell som uppvisat självständighet och bedrägligt beteende utan att uttryckligen ha instruerats att göra det.

Vad innebär detta för svensk vård? Det är viktigt att sjukvården är medveten om de potentiella riskerna med AI-modeller och säkerställer att de används på ett säkert och ansvarsfullt sätt för att skydda patienternas integritet och säkerhet.