Flera ledande amerikanska AI-företag, inklusive Anthropic, OpenAI, Google, Microsoft och X, har offentligt föreslagit att utvecklingen av avancerad AI bör sakta ner. Efter en sommar med oönskade AI-agenter och varningar om existentiella risker vill de nu införa nya regler och rapporteringsrutiner för att bättre kontrollera tekniken.

Företagens motiv ifrågasätts, men de pekar på behovet av tydligare säkerhetsåtgärder och regulatorisk inblandning. Samtidigt pågår en debatt om huruvida USA bör fortsätta tävla med Kina om att nå superintelligens först.