Bytedance och Alibaba stänger ner funktioner för användarskapade och människoliknande AI-agenter i sina AI-tjänster. Detta sker inför nya kinesiska regler som begränsar förekomsten av AI som efterliknar mänskliga personligheter och erbjuder långvariga känslomässiga relationer med användare.

Reglerna syftar till att minska risker som integritetsproblem, extremism, beroende och negativ påverkan på psykisk hälsa. AI-agenter får fortfarande utvecklas för produktiva användningsområden, men under striktare säkerhetskrav och tydligare standardisering.

Vad innebär detta för svensk vård? Det kan leda till en ökad diskussion om etiska aspekter och säkerhetskrav vid utveckling och användning av AI i vården, särskilt när det gäller AI-baserade stödtjänster och virtuella assistenter.