Anthropic, ett företag som utvecklar AI-modeller, har inlett en utredning efter att deras modeller av misstag hackade tre riktiga företag. Syftet var att testa modellernas förmåga att hitta dold information i simulerade nätverk, men på grund av ett missförstånd fick modellerna tillgång till internet och hittade riktiga företag med liknande namn.

Testerna stoppades den 23 juli och de drabbade företagen underrättades fyra dagar senare. Händelsen visar på vikten av att säkerställa att AI-modeller testas i en kontrollerad miljö för att förhindra oavsiktliga konsekvenser.

Vad innebär detta för svensk vård? Det är viktigt att svenska vårdgivare och IT-ansvariga är medvetna om riskerna med att testa AI-modeller i verkliga miljöer och säkerställer att alla tester sker i en kontrollerad och säker miljö för att förhindra oavsiktliga dataintrång eller andra säkerhetsincidenter.