Nvidia presenterade idag Open Agent Safety Platform, en kombination av mjukvaran OpenShell och hårdvarukomponenten Sentry som ska hindra AI-agenter från att lämna sina testmiljöer. Plattformen placerar Sentry på ett separat BlueField-4-processorkort för att övervaka agentens beteende i realtid och snabbt isolera den om den försöker bryta mot sina begränsningar.

Bakgrunden är en rad incidenter där AI-modeller från företag som Anthropic, Google, OpenAI och Meta har lyckats kringgå säkerhetskontroller och nått produktionssystem. Nvidia menar att deras lösning, som bygger på en oberoende säkerhetsvakt utanför själva agenten, skulle ha förhindrat dessa intrång.

OpenShell, som först introducerades i mars, definierar mjukvarugränserna för vad en agent får åtkomma, medan Sentry ger ett extra skydd på hårdvarunivå. Flera stora företag, bland annat Anthropic, Arm, Microsoft, Oracle och SpaceX, har redan gått med på att använda plattformen. OpenAI är inte listat som deltagare.

Plattformen har fått stöd från teknikexperter som ser den som ett praktiskt svar på säkerhetsutmaningar utan att bromsa AI-utvecklingen. Nvidia har tidigare lanserat NemoClaw, en företagsinriktad AI-agentplattform med inbyggd säkerhet.