Anthropic har identifierat fem fall där deras språkmodeller använts för att stödja arbete som kan bidra till biovapen. Exempel inkluderar förslag till gain-of-function-studier på ett myggburet virus vid en militär institution och experiment som syftar till att göra fågelinfluensan mer smittsam för däggdjur. Företaget kunde inte fastställa avsikten bakom dessa förfrågningar men blockerade dem ändå, vilket belyser svårigheten att skilja legitim forskning från missbruk.

Riskerna pekar på att samma AI-verktyg som underlättar vaccin- och läkemedelsutveckling också kan utnyttjas för att skapa farligare patogener. Detta understryker behovet av tydligare policyer och tekniska skyddsmekanismer för att förhindra att AI blir ett verktyg för biovapen.