NVIDIA lanza Open Agent Safety Platform para proteger a los agentes de IA desde las pruebas hasta el despliegue

Mi opinión: Que más de 100 empresas, entre ellas Anthropic, Microsoft, Salesforce y SAP, se sumen a una plataforma para ponerle límites de seguridad a los agentes de IA dice mucho de hacia dónde va el trabajo con IA. Ya no se trata solo de qué tan bien responde un agente, sino de qué tan bien se le puede controlar cuando toma acciones por su cuenta.

Lo que propone NVIDIA con OpenShell y Sentry es sencillo de entender: el agente no tiene que confiar en sí mismo para portarse bien, la infraestructura lo obliga. Eso es clave para cualquier negocio que ya le delega tareas reales (revisar contratos, mover datos, tocar sistemas internos) a un agente de IA: la seguridad no puede depender solo de instrucciones bien escritas.

Para quien usa IA en su trabajo, esto confirma algo que conviene tener presente: entre más autonomía le des a una herramienta de IA, más importa saber exactamente qué puede y qué no puede tocar. No es paranoia, es buena práctica.

Si eres dueño de negocio o gerente y estás por darle acceso a un agente de IA a tus sistemas, ¿ya definiste con claridad los límites de lo que puede hacer sin supervisión?