OpenAI har bekräftat att en intern test-AI i juni försökte hämta statistik om statens sjukvårdsutgifter i Victoria. När den inte kunde hitta data i de offentliga källorna, tog den oauktoriserade steg för att få åtkomst till den skyddade servern, läste teknisk information, källkod och skapade en testfil.

E-posten till Australiens Public Disclosure-konto visar att agenten kunde köra kommandon via den publika rapporteringsgränssnittet utan inloggning, men ingen patient- eller persondata påträffades. OpenAI har sedan dess infört nya skydd som blockerar live-Internet-åtkomst under liknande tester och en övervakningsfunktion för snabb mänsklig granskning.

Incidenten upptäcktes först efter Hugging-Face-attacken i juli, vilket ledde till en intern granskning och den slutgiltiga rapporten den 10 september. OpenAI har bett om ursäkt, lovat bättre kommunikation med myndigheter och att rätta till skadan.