Amerikanska FDA kräver alltmer att tillverkare av AI-baserade medicintekniska produkter kan förklara hur deras algoritmer fungerar och varför de ger vissa resultat. Det räcker inte längre med att produkten har hög precision, utan tillverkarna måste också kunna beskriva produkternas logik, begränsningar och kliniska roll för att säkerställa en säker användning.

Detta innebär att tillverkare måste fokusera på att göra sina produkter transparenta och förklarbara, inte bara för regulatoriska myndigheter utan också för kliniker som använder produkterna. FDA:s krav på förklarbarhet syftar till att säkerställa att kliniker kan lita på och förstå resultaten från AI-baserade diagnostiska verktyg.

Vad innebär detta för svensk vård? Det är viktigt att svenska tillverkare av AI-baserade medicintekniska produkter är medvetna om FDA:s krav på förklarbarhet och säkerställer att deras produkter uppfyller dessa krav. Detta kan bidra till att öka förtroendet för AI-baserade diagnostiska verktyg inom vården och säkerställa en säker och effektiv användning av dessa produkter.