Forskare vid Centre for Addiction and Mental Health har genomfört en banbrytande studie som visar att AI-modeller använda för att förutsäga aggressiva incidenter inom akut psykiatrisk vård kan förstärka och förvärra befintliga sociala och strukturella ojämlikheter.

Studien, publicerad i npj Mental Health Research, visar att AI-modellerna överskattar sannolikheten för aggression hos redan marginaliserade grupper.

Resultaten understryker vikten av noggrann utvärdering för att säkerställa att AI-verktyg inte förvärrar skador i kliniska miljöer, utan främjar mer jämlik vård.

Vad innebär detta för svensk vård? Det är viktigt att svenska vårdenheter är medvetna om dessa risker och säkerställer att AI-verktyg utvärderas och implementeras på ett sätt som främjar jämlikhet och rättvisa.