Läkare behöver lära sig hur man bedömer beslutsstödens begränsningar för att bära det slutgiltiga ansvaret inom vården. När AI-baserade beslutsstöd införs i vården förändras kraven på läkaren fundamentalt.

Det är en paradox att läkare förväntas ha kunskap om läkemedel men inte om AI-systemen som påverkar diagnos, prioritering och behandling.

Om en läkare inte förstår en modells begränsningar och inte känner till vilka patientgrupper den validerats på, är ansvaret inte reellt.