AI används alltmer inom sjukvården i USA, med uppgifter som att skriva kliniska anteckningar, identifiera sepsis och granska medicinska bilder. Trots de verkliga fördelarna med AI finns det en fara. De flesta sjukhus övervakar säkerheten och prestandan hos dessa verktyg på ett sätt som är otillräckligt för AI-teknikens snabba utveckling.

Det traditionella tillvägagångssättet, med en underkommitté, en checklista, ett kvartalsmöte och ett godkännande eller avslag, kan ta sex månader eller längre. Detta är inte tillräckligt för AI, och ansvaret för att åtgärda detta vilar inte på IT-avdelningen, utan på den högsta ledningen.

Vad innebär detta för svensk vård? Det är viktigt att sjukhus och vårdgivare i Sverige är medvetna om dessa utmaningar och utvecklar effektiva metoder för att övervaka och styra AI-system för att säkerställa patientsäkerheten och kvaliteten på vården.