David Robinson, som i tre och en halv år har lett säkerhetsrapporter för OpenAI:s stora produktlanseringar, har sagt upp sig och kritiserar företagets kultur som "bruten". I en essä i The Atlantic menar han att OpenAI:s metod att iterativt lansera och justera säkerhetsåtgärder garanterar återkommande misslyckanden, och att skalan på dessa misslyckanden växer i takt med att modeller blir kraftfullare.

Robinson pekar på incidenter som en nyligen inträffad intrång i Hugging Face-system av OpenAI-agenter och andra oönskade agent-händelser som bevis på bristande skydd. Han föreslår att frontier-AI-företag bör drivas med samma rigorösa redundans och planering som kärnkraftverk eller flygplatser, för att minimera risken för katastrofala fel.

OpenAI svarar att de fortsätter förbättra säkerheten: de pausar träning när riskerna blir för stora, stärker realtidsövervakning, använder externa utvärderare och tränar modeller att agera ansvarsfullt. Robinson avslutar med att påpeka behovet av starkare externa incitament för säkerhet och en djupare diskussion om AI-alignment, som han menar är för närvarande grovt förenklad.