En ny studie visar att OpenAI:s ChatGPT Health har en felaktighetsgrad på 50%, vilket innebär att den felaktigt rekommenderar att vården skjuts upp i nödfall. Detta är en del av ett större problem där AI-system införs i vården utan tillräcklig testning.

Rapid införande av AI i vården kan förvärra den redan existerande tillitskrisen inom vården.

Vad innebär detta för svensk vård? Det är viktigt att svenska vården och myndigheter tar till sig dessa lärdomar och ser till att införandet av AI-system sker på ett ansvarsfullt och säkert sätt, med tillräcklig testning och utvärdering för att säkerställa patienternas säkerhet och tillit till vården.