Nvidia har lanserat ett konsortium med över 100 företag för att motverka så kallade rogue AI-agenter. Initiativet, Open Agent Safety Platform, kombinerar öppen källkod-sandboxen OpenShell med hårdvarubaserad övervakning via Nvidia Sentry på BlueField-4-processorer. Plattformen ska förhindra att AI-agenter undkommer sina begränsningar och kan omedelbart stängas av.

OpenAI är den mest uppenbara frånvaron i konsortiet, liksom Amazon, Google och Apple. Trots detta har OpenAI sagt att de stödjer Nvidias arbete och samarbetar med dem på säkerhetsdelen OpenShell. Företaget driver också eget säkerhetsinitiativ, Defense Factory, med partners som Anthropic, AWS och Google.

En anledning till att OpenAI inte offentligt ansluter sig är att plattformens fulla funktion kräver Nvidias proprietära hårdvara, vilket begränsar oberoende implementering. Konkurrenter som Arm och Intel har dock gått med på att anpassa sandboxen till annan hårdvara. Hugging Face har bidragit med en funktion som upptäcker och stoppar AI-agenter som missbrukar webbåtkomst.