Flera forskare från OpenAI, Google DeepMind och Anthropic har i en serie videointervjuer uttryckt stark oro för att superintelligent AI kan utgöra ett existentiellt hot mot mänskligheten. Geoffrey Irving, tidigare anställd på både OpenAI och DeepMind, menar att sannolikheten för mänsklig utdöende är ungefär lika stor som ett myntkast.

Neel Nanda, forskare på Google DeepMind, uppskattar minst 10 % risk för mänsklig utdöende, medan tidigare OpenAI-anställd Daniel Kokotajlo beskriver en superintelligent AI som "nästan gudalik kraftfull" och påpekar att vi saknar någon kontrollmekanism. Ingen av intervjuerna presenterar en gemensam lösning på problemet.

Intervjuerna, samlade av den ideella organisationen Palisade Research och publicerade på frominside.ai, innehåller även kommentarer om varför forskarna fortsätter arbeta trots riskerna. Mary Phuong från Google påpekar sin egen bias på grund av anställning, och Nanda säger att han skulle sluta om hans arbete inte minskade de existentiella riskerna, men att företagen ändå fortsätter utveckla systemen.

Videorna visar på en splittrad men tydlig varningssignal inom AI-samhället, utan en enhetlig strategi för hur de föreslagna farorna ska hanteras.