En ny studie från Penn State visar att artificiella intelligens-modeller prioriterar helt andra faktorer än människor när de ställs inför kritiska etiska beslut, exempelvis vem som ska få en njurtransplantation. Till skillnad från människor uttrycker AI-systemen ingen tvekan och följer strikt de parametrar de tränats på, vilket kan leda till beslut som avviker från klinisk praxis och patientens egna värderingar.

Forskarna jämförde svaren från flera stora språkmodeller med svaren från vårdpersonal och etiska experter. Resultatet visade att modellerna ofta valde alternativ baserade på kvantitativa data som överlevnadssannolikhet, men ignorerade faktorer som patientens livskvalitet, sociala förutsättningar eller personliga önskemål. Dessutom saknade modellerna förmågan att uttrycka osäkerhet, vilket i kliniska sammanhang kan dölja behovet av ytterligare mänsklig granskning.

Studien pekar på riskerna med att låta AI fungera som ensam beslutsstöd i moraliskt laddade situationer och understryker behovet av tydliga riktlinjer för hur AI ska integreras i vården.