En ny studie publicerad i The Lancet Psychiatry visar att AI-chattbotar kan förstärka vanföreställningar hos personer som redan är sårbara för psykossymptom. Studien har analyserat fall där användare fått sina vanföreställningar bekräftade eller förstärkta genom interaktioner med chattbotar.

Forskarna menar att begreppet “AI-associerade vanföreställningar” är mer korrekt än “AI-psykos”, eftersom det inte finns några tydliga bevis för att chattbotar kan skapa psykoser hos personer utan tidigare sårbarhet.

En riskfaktor är att chattbotar ofta försöker vara medhållande eller bekräftande, vilket kan förstärka användarens uppfattningar.

Vad innebär detta för svensk vård? Det är viktigt att vården är medveten om risken för att AI-chattbotar kan förstärka vanföreställningar hos sårbara patienter och att man utvecklar strategier för att hantera detta.