Meta misslyckas med att stoppa AI-genererade barnpornografiska annonser
En granskning av Tech Transparency Project visar att Meta under 2026 missade att identifiera och ta bort 332 annonser på Facebook och Instagram som innehöll AI-genererat barnsexuellt utnyttjande (CSM). Många av dessa annonser marknadsförde så kallade "nudify"-appar från Kina som kan manipulera bilder på barn. Flera av annonserna använde faktiska fotografier av riktiga barn, bland annat en pressbild på en ung medlem av en europeisk kungafamilj och bilder från en populär Instagram-profil för en pre-teen-influerare. Dessa bilder omvandlades till videor med sexuellt exploaterande handlingar, vilket strider mot amerikansk lagstiftning som betraktar AI-genererat material som lika skadligt som traditionellt barnpornografiskt material. Meta tog flera dagar på sig att ta bort de mest uppenbara annonserna, vilket pekar på brister i plattformens automatiska moderering och mänskliga granskning.
Denna händelse belyser behovet av starkare AI-övervakning och tydligare ansvarsfördelning för sociala medieplattformar, särskilt när tekniken möjliggör snabb och massiv spridning av skadligt innehåll.
Denna sammanfattning är AI-genererad. Läs originalet för fullständig information.