Rep. Ro Khanna, ledamot i House Select Committee on China, har i brev till både den amerikanska underrättelsen (ODNI) och kinesiska AI-företag som DeepSeek, Alibaba och Moonshot AI begärt information om deras beredskap för en eventuell AI-katastrof, exempelvis en hackning av en stor språkmodell. Han vill att ODNI utvärderar hur USA kan svara om ett AI-laboratorium förlorar kontrollen, samt hur Kina bedömer liknande risker.

Khannas brev frågar också de kinesiska företagen om deras arbete med så kallad superintelligens och rekursiv självförbättring (RSI), samt om de har implementerat säkerhetsåtgärder som "kill switches" och är villiga att låta en oberoende organisation inspektera dem om ett avtal skulle träffas.

Politikern föreslår ett USA-Kina-avtal som förbjuder RSI och etablerar en gemensam arbetsgrupp för att utveckla säkerhetsrekommendationer. Trots stöd från vissa amerikanska och demokratiska politiker, inklusive Bernie Sanders, möter förslaget motstånd från både republikaner och den kinesiska regeringen, som ifrågasätts om de skulle hålla sig till avtalet.

Khanna menar att både amerikanska och kinesiska ledare saknar tillräcklig brådska för att hantera AI-riskerna och vill skapa ett forum där tekniska experter kan driva debatten, snarare än att låta företag med vinstintresse eller politiker utan teknisk kunskap sätta reglerna.