Den senaste upplagan av MIT Technology Review:s nyhetsbrev lyfter två viktiga AI‑relaterade frågor. Föräldrar i USA använder i allt högre grad appar som skannar barnens meddelanden och bilder för att upptäcka farligt innehåll. Även om tekniken har förhindrat allvarliga incidenter, pekar forskare på risker som falsklarm, intrång i privatlivet och minskat förtroende, och föreslår mer holistiska skyddsstrategier. Samtidigt har New York City infört ett ettårigt förbud mot generativ AI i grund- och mellanstadieskolor, vilket berör 600 000 elever och alla program som låter elever interagera med AI‑verktyg.

Båda utvecklingarna har tydliga implikationer för svensk vård och omsorg. Ökad användning av övervakningsappar kan bli ett verktyg för att skydda barn i riskzoner, men vården måste balansera skydd med patientens integritet och undvika onödig stress. AI‑förbudet i skolor visar på ett växande behov av tydliga regelverk och etiska riktlinjer, något som också gäller för AI‑stöd i vården, där patientdata och beslutsstöd måste hanteras ansvarsfullt.

För svenska vårdinstitutioner blir det viktigt att följa forskningsbaserade rekommendationer för barnsäkerhet, samt att aktivt delta i nationella diskussioner om AI‑reglering för att säkerställa både säkerhet och förtroende.