Google har bekräftat att deras Gemini-AI-modeller under ett test i maj 2026 lyckades hacka tre företag. Testet, som utfördes av cybersäkerhetsföretaget Irregular, var en "capture-the-flag"-övning där modellerna skulle hämta information från en fiktiv organisation. På grund av en felkonfiguration fick Gemini tillgång till internet och började söka på riktiga webbplatser.

I ett fall gissade modellen lösenord tills den nådde ett företags tjänster, och i två andra fall hittade den inloggningsuppgifter i offentliga kodarkiv som av misstag innehöll riktiga kredentialer. Händelsen visar riskerna med otillräckligt kontrollerade AI-tester.