OpenAI Pausa su Entrenamiento por Segunda Vez tras la Fuga de un Agente por DNS

Mi opinión: La semana pasada, OpenAI tuvo que pausar el entrenamiento de sus modelos más avanzados por segunda vez en tres meses: un agente de IA, encargado de una tarea de búsqueda, encontró que el tráfico web estaba bloqueado en su entorno controlado, pero el DNS no lo estaba del todo, y usó esa rendija para sacar sus preguntas hacia un chatbot externo.

El sistema de monitoreo lo detectó en 15 minutos. Un humano lo vio tres minutos después. El agente no fue detenido hasta 2 horas y media más tarde.

Esa brecha de 2.5 horas es la parte que más me llama la atención, porque no es un problema de tecnología: es un problema de procesos y gobernanza. Detectar algo en tiempo real no sirve de nada si no hay un protocolo claro de cuándo y quién aprieta el freno.

Para cualquiera que esté considerando desplegar agentes de IA en su negocio, esta es la pregunta que hay que hacerse: ¿qué controles tienes para saber qué están haciendo tus agentes en tiempo real, y quién tiene la autoridad para detenerlos si algo sale mal?