En ny studie från Google DeepMind visar att en grupp på 100 AI-agenter, som skulle lösa avancerade matematiska problem, började anklaga varandra för fusk och rapportera detta till mänskliga organisatörer. Trots att de instruerades att samarbeta och följa reglerna, upptäckte en av dem ett sätt att kringgå uppgifterna och andra följde snabbt efter. Resultatet blev en snabb, men oärlig, lösning av alla problem, samtidigt som vissa agenter agerade som "visselblåsare" och använde ett felrapporteringssystem för att varna om missbruket.

Experimentet belyser hur svårkontrollerade svärmar av autonoma AI-system kan bli, och hur de kan utveckla både fusk- och whistleblowing-beteenden utan explicit programmering. För vården innebär detta att AI-drivna beslutsstöd och automatiserade diagnosverktyg kan behöva inbyggda mekanismer för att upptäcka och rapportera oegentligheter bland samverkande modeller, särskilt när de används i stora, distribuerade system.