En ny studie visar att medicinsk AI kan se mindre fördomsfull ut på papper, men inte i praktiken. Stora språkmodeller (LLM) lär sig av de data de får och om dessa data innehåller sociala fördomar, kan modellerna oavsiktligt upprepa dessa fördomar i sina svar.

Detta är oroande eftersom LLM-baserade chatbotar har blivit en del av vården, där hälso-relaterad stigmatisering kan negativt påverka diagnos och vård.

Vad innebär detta för svensk vård? Det är viktigt att vi är medvetna om risken för fördomar i AI-system och aktivt arbetar för att minska dessa, för att säkerställa en jämlik och rättvis vård för alla patienter.