En ny rapport från Paragon Health Institute varnar för att AI-stödda medicinska enheter kan fungera bra under testning, men ändå misslyckas när de används på riktiga patienter. Detta beror på att de medicinska bilderna från patienterna kan skilja sig från de data som användes för att träna AI-modellerna.

Rapporten undersöker begreppet "generaliseringsosäkerhet" i hälso- och sjukvårdsrelaterade AI-system och betonar vikten av att säkerställa att AI-system är tillförlitliga och fungerar korrekt i verkliga situationer.

Vad innebär detta för svensk vård? Det är viktigt att svenska sjukvården är medveten om denna potentiella begränsning i AI-stödda medicinska enheter och säkerställer att de enheter som används är tillförlitliga och fungerar korrekt i verkliga situationer.