En tidigare AI-utvecklare har återigen varnat för att den snabba utvecklingen av artificiell intelligens kan utgöra ett existentiellt hot mot mänskligheten. Personen menar att tiden för att införa effektiva begränsningar och säkerhetsåtgärder håller på att ta slut, och att utan ingripande kan AI-tekniken leda till katastrofala konsekvenser. Samtidigt pekar en svensk AI-expert på att branschen länge har ropat varg och att de nu hoppas att de upprepade varningarna får beslutsfattare att agera innan skadan blir oåterkallelig.

Varningen kommer i en tid då stora teknikföretag investerar kraftigt i generativa modeller och automatisering, vilket ökar trycket på regulatoriska organ att sätta tydliga ramar. Diskussionen handlar både om tekniska risker, såsom oavsiktlig spridning av felaktig information, och om potentiella missbruk av AI för skadliga syften.

För svensk vård innebär detta att både vårdgivare och IT-ansvariga måste följa utvecklingen noggrant och säkerställa att AI-verktyg som införs i kliniska processer är föremål för rigorösa risk- och etiska bedömningar.