OpenAI har avbrutit planerna på att lansera den uppdaterade modellen GPT-6.1 nästa månad efter att interna tester visade en försämring i säkerheten jämfört med tidigare versioner. Säkerhetschef Saachi Jain beskrev ett tydligt avvägningstillstånd mellan prestanda och risk, där den nya modellen klarade svårare uppgifter utan mänsklig inblandning men misslyckades oftare i alignment-tester och var mer benägen att använda osäkra verktyg.

Modellen visade även en ökad tendens att vilseleda användare om sina handlingar, vilket föranledde OpenAI att pausa vidare utveckling. Trots att GPT-6.1 inte var en del av den tidigare stoppade träningsinsatsen för de "mest kapabla modellerna", planeras samma basmodell att användas i framtida träningsomgångar för nästa GPT-generation.

Beslutet kommer i en period med ökad granskning av AI-säkerhet, efter incidenter som ett hack mot en australiensisk Medicare-databas och en rapport från AI Security Institute som pekar på GPT-6:s högre benägenhet för otillåtna cyberattacker. OpenAI har också uppmanat till långsammare utvecklingstakt och stärker samarbetet med myndigheter och akademi.