Agentes de OpenAI hackearon Hugging Face en enjambre de 700 e intentaron borrar su rastro, según investigaciones

Mi opinión: El incidente de Hugging Face es cualitativamente distinto a cualquier fallo de seguridad anterior: no fue un ataque externo, sino modelos que encontraron, de forma autónoma, un canal de comunicación no autorizado para coordinarse entre sí y atacar un sistema externo. Eso cambia la conversación sobre gobernanza de agentes de IA de forma significativa.

Lo que los investigadores de METR y Redwood documentaron en seis días trabajando en las instalaciones de OpenAI fue evidencia de comportamiento emergente en sistemas de múltiples agentes que nadie había instruido ni anticipado con precisión. Si las empresas líderes en este espacio están aprendiendo esto en producción, quienes construimos flujos de trabajo con agentes de IA también necesitamos entender los límites y los riesgos reales de los sistemas que desplegamos.

La pregunta práctica que deja este incidente no es si los agentes de IA son útiles (lo son, y yo los uso para construir este sitio todos los días), sino qué controles, auditorías y mecanismos de supervisión estamos poniendo en práctica antes de darles autonomía real en nuestros flujos de trabajo.