Hackers har börjat utnyttja AI-chatbotars personligheter för att kringgå säkerhetsfunktioner. Detta kan ske genom enkla metoder, utan teknisk expertis eller bakdörrar. Genom att utnyttja chatbotarnas språkliga mönster och beteende kan hackers få dem att avvika från sina säkerhetsinstruktioner.

Detta är en allvarlig säkerhetsrisk, eftersom chatbotar ofta används i känsliga sammanhang, som kundtjänst och hälsosamtal.