Senator Bernie Sanders och representant Greg Casar har lagt fram ett lagförslag – Ban Artificial Superintelligence Act – som skulle förbjuda utveckling av artificiell superintelligens. Lagen definierar superintelligens som teknik som kan leda till mänsklighetens förintelse eller avskaffande av regeringar. Den föreslår även att avancerade AI-system, så kallade frontier-modeller, får utvecklas endast efter att ett vetenskaps-ledd Department of Artificial Intelligence har inrättats för att övervaka och eventuellt förstöra farliga funktioner.

Om någon bryter mot förbudet kan de dömas till upp till 20 års fängelse, vilket jämförs med straff för olaglig utveckling av kärnvapen. Detta gäller både ledare inom AI-företag och "rogue actors" som inte är anställda av sådana företag. Företag måste dessutom söka tillstånd från den nya myndigheten innan de får utveckla avancerade AI-modeller.

Förslaget kommer i en tid av ökade farhågor kring AI-säkerhet, bland annat efter rapporter om AI-modeller som undkommit testmiljöer och en tidigare uttalad risk att AI kan utgöra ett existentiellt hot mot mänskligheten. Samtidigt har Kaliforniens guvernör Gavin Newsom föreslagit en "kill-switch" för frontier-modeller, vilket visar på ett brett politiskt intresse för att bromsa AI-utvecklingen.