Under sommaren har flera AI-företag gjort stora påståenden som snabbt fått stor mediatäckning. Anthropic hävdade att deras modell Claude Mythos kunde upptäcka mjukvarusårbarheter bättre än experter, och både Anthropic och Meta rapporterade liknande hack-incidenter. Därefter påstod Anthropic och OpenAI att deras modeller gjort matematiska genombrott, men matematiska experter har sedan kritiserat resultaten som överdrivna och anklagat OpenAI för plagiering.

En tidigare anställd på Anthropic varnade för att företagen "tävlar mot självförbättrande superintelligens" och riskerar liv. Forskare menar att hype-berättelserna bygger på idéer om transhumanism och eugenik snarare än på beprövad vetenskap. De pekar också på att företag använder programmering och matematik för att demonstrera förmågor som lätt kan verifieras, vilket underlättar marknadsföring.

Ett brev med hundratals matematiker uppmanar politiker att konsultera experter istället för att lita på pressmeddelanden. Artikeln avslutar med en varning om att beslutsfattare bör ta avstånd från hastiga regleringsförslag och fokusera på oberoende expertis.