Flera ledande forskare på AI-labbet Anthropic har offentligt uttryckt stark oro för att en självförbättrande superintelligens kan hota mänskligheten inom detta decennium. En anställd på X hävdade att sannolikheten för en total mänsklig utrotning är över 10 %. Företagsledare, inklusive vd Dario Amodei, föreslår nu en global bromsning av AI-utvecklingen med oberoende granskningar, nya regleringar och samordning på regeringsnivå.

Även OpenAI:s Sam Altman och Elon Musk har stött förslaget, medan politiska aktörer som Donald Trump och EU-kommissionen har tagit motsatta ståndpunkter. Debatten har också väckt kritik om möjliga dolda motiv, såsom regulatorisk fångst eller PR-strategier.