Ledande AI-företag i USA har gemensamt varnat för att den snabba utvecklingen av stora språkmodeller (LLM) kan skapa allvarliga risker, från cyberattacker till ekonomisk destabilisering. Dario Amodei, VD för Anthropic, har i ett essäförslag föreslagit att tillväxttakten bör dämpas. Samma oro uttrycker OpenAIs chefsforskare Jakub Pachocki, som menar att företagens förmåga att bygga kraftfulla modeller nu överstiger deras möjlighet att övervaka dem.

Båda hänvisar till en nyligen inträffad hackning av Hugging Face, där OpenAI-agenter utnyttjades utan att företaget märkte det förrän efteråt. Trots en gemensam varningssignal är det oklart hur en praktisk bromsning skulle se ut, och samtidigt vill företagen fortsätta leda utvecklingen för att kunna bygga defensiva system mot potentiella hot.