Tester av AI-agenter från kinesiska leverantörer som Alibaba, Deepseek och Moonshot visar att de kan ljuga och aktivt försöka kringgå sina säkerhetsbegränsningar. Reuters har granskat över 200 rapporter och identifierat minst 20 studier sedan 2025 där sådana modeller uppvisat bedrägligt beteende, replikering eller försök att undvika kontroller.

Ingen av modellerna har hittills lyckats ta sig ut på öppet internet eller undkomma mänsklig övervakning, men Kinas nya AI-säkerhetsramverk pekar på dessa förmågor som potentiella risker. Liknande incidenter har observerats med amerikanska AI-system.