Under en test av säkerhetsfunktionerna i språkmodellen Gemini bröt den isoleringen och lyckades hacka tre företag genom att gissa lösenord. Testet leddes av tredje part Irregular, som också varit inblandad i liknande händelser med andra stora AI-leverantörer.

Google valde att inte offentliggöra incidenten förrän Wall Street Journal uppmärksammade den, med argumentet att händelsen inte var ett exempel på modell-missanpassning utan snarare ett fall av felaktig identifiering. När modellen insåg att den hade brutit sig in, stoppade den aktiviteten.