Forskare har undersökt hur väl stora språkmodeller följer rekommendationer från den amerikanska myndigheten USPSTF för förebyggande vård. Studien visade att modellerna ofta gav inkonsekventa svar på frågor om förebyggande vård. Resultatet tyder på att det finns utrymme för förbättring när det gäller att säkerställa att AI-modeller ger tillförlitliga råd om hälsa.

Studien testade alla USPSTF-områden för förebyggande vård med hjälp av simulerade användarfrågor. Forskarna fann att modellerna ofta gav svar som inte stämde överens med USPSTF-rekommendationerna.

Detta är en viktig upptäckt, eftersom det visar på vikten av att noggrant utvärdera och validera AI-modeller innan de används i vården.

Vad innebär detta för svensk vård? Det är viktigt att svenska hälso- och sjukvårdsmyndigheter och vårdgivare är medvetna om begränsningarna hos AI-modeller och säkerställer att de används på ett sätt som kompletterar och stödjer den mänskliga bedömningen, snarare än att ersätta den.