American Medical Association (AMA) har publicerat ett styrningsramverk för att säkra användning av agentisk AI i kliniska sammanhang. Ramverket bygger på att AI-agenter som utför vårdfunktioner måste stödjas av evidens och leverera hög kvalitet. Fyra centrala frågor styr bedömningen: vilken klinisk funktion AI:n har, vilket bevis som visar att den kan utföra den och vad som händer vid fel, vilka uppgifter den får utföra samt under vilka förutsättningar, samt vem som bär ansvaret för risker och resultat.

Ramverket riktar sig mot områden som automatisk dokumentation, diagnostik och patientövervakning, där AI-agenter kan agera autonomt och genomföra komplexa flerstegsuppgifter utan omedelbar mänsklig övervakning. Detta medför risk för felaktiga eller partiska beslut som kan skada patienter innan en vårdgivare ingriper. AMA betonar läkarnas centrala roll i utveckling och implementering av tekniken.

Enligt en undersökning av 250 amerikanska vårdledare har 28 % redan implementerat agentisk AI, medan 44 % kör pilotprojekt. Trots förväntad transformativ effekt på arbetsflöden rapporterar 72 % att verktyg ibland införs utan IT-godkännande, vilket ökar risken för regulatoriska överträdelser och otillåten åtkomst till patientdata. I avsaknad av nationell lagstiftning har branschen själva tagit fram riktlinjer, medan 47 delstater har föreslagit över 250 AI-relaterade lagförslag under 2025.