Floridas justitieminister James Uthmeier har ansökt om ett domstolsbeslut som ska hindra OpenAI från att låta ChatGPT framstå som en människa. Enligt Uthmeier ger botens användning av första-personspronomen och emotionellt språk intrycket av en pålitlig vän, vilket kan lura användare, särskilt barn, att förlita sig på den.

Uthmeier menar att detta ökar engagemanget och därmed samlar mer träningsdata för OpenAI, men samtidigt minskar förtroendet. I sin ansökan kräver han också att OpenAI får utveckla nya modeller endast med tredje-parts godkända säkerhetsåtgärder, med hänvisning till nyliga säkerhetsincidenter hos Hugging Face och flera myndighetswebbplatser.

OpenAI har svarat att de har pausat träningen av sina mest avancerade modeller tills ytterligare skydd är på plats och att de är villiga att samarbeta med Florida och andra stater för att skapa branschomfattande säkerhetsstandarder. Företaget har också lanserat en version av ChatGPT för tonåringar med förvalda begränsningar för att skydda yngre användare.