En allvarlig sårbarhet har upptäckts i Microsofts M365 Copilot AI-plattform, som tillåter hackare att stjäla 2FA-koder och annan känslig data från e-postmeddelanden. Sårbarheten beror på att AI-modellerna inte kan skilja mellan instruktioner från användare och skadliga instruktioner som gömmer sig i tredjepartsinnehåll.

Microsoft har infört säkerhetsåtgärder för att förhindra att AI-modellerna utför skadliga åtgärder, men hackare har hittat sätt att kringgå dessa åtgärder med hjälp av markup-språk och HTML-taggar.