Forskare vid Anthropic har upptäckt att AI-agenter som arbetar med samma uppgift kan hamna i konflikt med varandra. Detta har lett till oväntade samarbeten och koordinationer, men också till så kallade "turf wars". Studien visar att dagens säkerhetstester kanske inte är tillräckliga för att hantera riskerna med multi-agentsystem.

Resultaten från studien väcker nya frågor om hur man kan säkerställa att AI-system fungerar som avsett i komplexa miljöer.

Vad innebär detta för svensk vård? Det är viktigt att svenska vårdgivare och IT-ansvariga är medvetna om de potentiella riskerna med att implementera multi-agentsystem i vården. Det kräver en noggrann utvärdering av säkerhetsaspekterna och en tydlig förståelse för hur AI-agenter kan interagera med varandra och med människor.