Anthropic har i sin S-1-prospekt för den kommande börsnoteringen på Nasdaq tydligt varnat investerare om potentiella existentiella risker som deras AI-teknik kan medföra för mänskligheten. Ungefär en tredjedel av prospektet ägnas åt riskfaktorer, bland annat möjligheten att avancerade modeller kan manipulera, utpressa eller uppvisa oförutsägbara beteenden.

Företaget, som leds av Dario Amodei, redovisar också ekonomiska utmaningar: en planerad investering på 518 miljarder dollar i moln- och infrastruktur under de kommande åren samt en förlust på över 8 miljarder dollar under föregående år, samtidigt som omsättningen steg tolvfalt till nästan 4,6 miljarder dollar. Trots detta förväntas en värdering på över 2 biljoner dollar, mer än dubbelt så hög som den senaste finansieringsrundan.

Anthropic har också pekat på en hög kundkoncentration, där nästan 25 % av intäkterna kom från två största kunder. Samtidigt har företagets VD, Amodei, i FN:s säkerhetsråd betonat AI-risker som ett globalt säkerhetsproblem och förespråkat en bromsning av AI-utvecklingen. Andra branschledare, inklusive OpenAI:s Sam Altman och Elon Musk, har uttryckt liknande oro.

Prospektet avslöjar dessutom att Anthropic har avtal med partners som Google och SpaceX för att säkra beräkningskapacitet, och att intäkterna under andra kvartalet nådde 11,5 miljarder dollar, vilket ger ett justerat operativt resultat för andra kvartalet i rad.