Forskning visar att mikroskopiskt brus kan lura flera canceralgoritmer för patologi, vilket avslöjar en stor klinisk säkerhetslucka. Integrationen av AI i digital patologi med allmänna grundmodeller lovar att förbättra uppgifter som canceralarm och subtypning. Men dessa kraftfulla AI-system introducerar också allvarliga sårbarheter, vilket gör dem mottagliga för fientliga attacker.

Detta är en viktig varningssignal för den kliniska användningen av AI i patologi, där säkerheten och tillförlitligheten är av yttersta vikt.

Vad innebär detta för svensk vård? Det är viktigt att svenska vården är medveten om dessa sårbarheter och vidtar åtgärder för att säkerställa att AI-systemen som används i patologi är robusta och säkra.