Forskare vid Karolinska Institutet har utvecklat AEGIS, ett ramverk som styr och övervakar uppdateringar av medicinska AI-system efter marknadsintroduktion. Ramverket svarar på två centrala frågor vid varje förändring: om den nya modellen får tas i bruk och om den befintliga modellen kräver närmare granskning. Besluten baseras på en förändringsplan som godkänts innan enheten fick marknadstillstånd.

AEGIS demonstrerades med två kliniska exempel: en modell för att identifiera sepsis i intensivvårdsdata och en för att segmentera hjärntumörer på MR-bilder. I båda fallen visade ramverket hur man kan upptäcka avvikelser i inkommande data, men det kan ännu inte automatiskt avgöra om sambandet mellan data och kliniska utfall har förändrats. Författarna betonar att varje klinisk tillämpning fortfarande kräver separat validering och regulatorisk bedömning.

Framtida steg innefattar att testa AEGIS i verklig klinisk drift tillsammans med vårdgivare och myndigheter, för att säkerställa att adaptiva AI-system förblir säkra och effektiva över tid.