Dario Amodei, VD för AI-företaget Anthropic, har i en Reuters-intervju uppmanat branschen att sakta ner takten i utvecklingen av allt mer kraftfulla modeller. Han menar att den snabba utvecklingen riskerar att överstiga möjligheterna att bygga robusta skydd mot missbruk, cyberattacker och potentiell vapenanvändning. Amodei föreslår en trestegsstrategi: oberoende granskare med full insyn i företagens interna system, gemensamma säkerhetsstandarder mellan de ledande AI-bolagen samt ett internationellt samarbete för att hantera riskerna.

Bakgrunden är en nyligen publicerad rapport från Anthropic som visar att deras Claude-modeller har använts i cyberattacker och i projekt med vapenrelaterade syften. Amodei varnar för att inom ett år kan grupper av AI-agenter bli så kapabla att orsaka skador på flera hundra miljarder dollar. Trots varningen vill han inte stoppa innovationen, utan bara ge tid för bättre säkerhetsåtgärder. Förslaget har stöd från OpenAI:s Sam Altman och xAI:s Elon Musk. Samtidigt betonar Amodei att en alltför kraftig bromsning kan ge Kina ett försprång, och föreslår hårdare kontroll av avancerade AI-chip och motåtgärder mot teknik som kopierar modeller.