Singapore har under FN:s 81:a generalförsamling föreslagit att UN ska utveckla ett ramkonvention för AI-säkerhet. Förslaget, presenterat av utrikesminister Vivian Balakrishnan, syftar till att skapa gemensamma principer och samarbetsmekanismer för att hantera risker med avancerade AI-system.

Konventionen skulle omfatta testning och utvärdering av AI innan lansering, fastställa acceptabla nivåer av autonomi, säkerställa mänsklig kontroll samt tydliggöra ansvar för utveckling och användning. Dessutom föreslås en internationell institution för standard-sättning, samordning och verifiering av AI-säkerhet.

Initiativet betonar tre huvudrisker: förlust av mänsklig kontroll, missbruk av AI av illvilliga aktörer och breda samhällspåverkan. Singapore framhåller att AI-risker är gränsöverskridande och kräver gemensamma regler för att undvika oönskade incidenter.

Förslaget syftar också till att inkludera både utvecklade och utvecklingsländer i processen, så att standarder blir tillgängliga och inte blir hinder för mindre ekonomier. Vietnam har uttryckt stöd för tidigt deltagande för att forma nationella regelverk i linje med internationella normer.