Forskare har funnit allvarliga brister i ChatGPT:s nya hälsoverktyg, ChatGPT Health. I över hälften av de akuta fallen rekommenderade verktyget patienter att boka ett läkarbesök istället för att söka akut sjukhusvård.

Detta kan leda till fördröjd behandling och ökad risk för patienterna. Forskarna varnar för att ChatGPT Health inte är tillförlitligt nog för att användas i akuta situationer.

Studien visar att det fortfarande finns stora utmaningar att övervinna innan AI-verktyg kan användas för att fatta beslut om patienters hälsa.

Vad innebär detta för svensk vård? Det är viktigt att svenska vårdenheter är medvetna om begränsningarna med AI-verktyg som ChatGPT Health och inte använder dem som enda källa för beslutsfattning i akuta situationer.