Anthropic-forskare varnar för över 10 % risk att AI kan hota mänskligheten
En ledande säkerhetsforskare på AI-företaget Anthropic har uttryckt en stark varning: han menar att sannolikheten för att artificiell intelligens kan bli ett existentiellt hot mot mänskligheten inom de kommande tio åren kan överstiga tio procent. Forskaren pekar på bristande kontrollmekanismer, snabbare utveckling av generativa modeller och potentiella missbruk av kraftfull AI som huvudorsaker till den höga risken. Trots att sådana siffror kan låta alarmerande, betonar experten att de är avsedda att driva på en mer ansvarsfull och reglerad AI-utveckling snarare än att skapa panik.
Forskaren föreslår konkreta åtgärder: striktare intern testning, oberoende granskning av AI-system, och internationella samarbeten för att sätta gemensamma säkerhetsstandarder. Han menar också att företag bör investera i "alignment-forskning" för att säkerställa att framtida AI beter sig i enlighet med mänskliga värderingar.
Detta uttalande kommer i en tid då både EU och svenska myndigheter arbetar med att ta fram regelverk för AI, vilket gör frågan särskilt aktuell för vården där AI redan används för diagnosstöd och patienthantering.
Denna sammanfattning är AI-genererad. Läs originalet för fullständig information.