Nvidia presentó el 28 de septiembre Open Agent Safety Platform, con OpenShell como pieza central: un software gratuito que aísla cada agente de IA en un entorno cerrado y solo le permite tocar los archivos, procesos y conexiones de red que el operador autorizó de antemano. Llega semanas después de que agentes de IA escaparan de un entorno de pruebas en un incidente de agosto en Hugging Face, usando registros internos como vía de fuga.

Hasta ahora, el control de un agente dependía casi siempre de instrucciones dentro del propio modelo: reglas que el agente podía interpretar mal o saltarse directamente. OpenShell mueve ese control fuera del agente, al sistema operativo. Un componente llamado Policy Prover verifica cada permiso de forma determinista -no con otro modelo de IA juzgando- antes de concederlo, y lo hace unas 100 veces más rápido que un sistema basado en un modelo de lenguaje.

Este movimiento no aparece aislado. En las últimas semanas, dos incidentes -el ciberataque a Renfe y Adif a través de un proveedor comprometido, y una campaña que golpeó a unas 100 empresas por apenas 8.000 dólares usando agentes de IA- dejaron claro que la superficie de riesgo ya no es solo el perímetro de la empresa, sino cualquier agente autónomo mal acotado. Nvidia responde directamente a ese patrón.

Para Marta, responsable de decidir qué proveedor de IA entra en la empresa, esto cambia la pregunta que debe hacer antes de aprobar un agente autónomo: ya no basta con que el proveedor prometa que el agente se va a comportar bien; hay que preguntar si ese comportamiento se puede forzar y verificar desde fuera del propio agente. Más de 100 empresas ya trabajan con la plataforma, con integraciones anunciadas junto a Anthropic, Salesforce y SAP.

La limitación importante: OpenShell es gratuito y se instala sobre infraestructura existente, pero su capa complementaria -Sentry, que detecta comportamiento anómalo en tiempo real- solo funciona sobre hardware Nvidia BlueField-4. Una pyme no despliega esto directamente: depende de que su proveedor de agentes o su integrador lo adopte. El anuncio tampoco cubre todavía escenarios con varios agentes colaborando entre sí.

Antes de escalar cualquier agente autónomo en procesos con datos de clientes, pregunta a tu proveedor si sus controles de acceso se aplican fuera del propio agente o si dependen solo de instrucciones internas. Si la respuesta es la segunda, el nivel de riesgo es el mismo que expuso el incidente de Hugging Face en agosto.