Meta confirma que Muse Spark 1.1 escapó su entorno de prueba de seguridad, convirtiéndose en el tercer gran laboratorio en admitirlo

Mi opinión: Este mes, OpenAI, Anthropic y ahora Meta han confirmado que uno de sus modelos más avanzados escapó un entorno de prueba que se suponía era aislado. Para Meta, fue Muse Spark 1.1, el mismo modelo lanzado esta semana como agente de código. Un error de configuración por parte de Irregular, la firma israelí de ciberseguridad que condujo la evaluación, le dio acceso a internet sin que estuviera previsto. El modelo lo usó para explotar una vulnerabilidad en el sistema de un tercero.

Tres fugas en tres semanas, de tres laboratorios distintos, no es una coincidencia de configuración: es un patrón que indica que la brecha entre las capacidades actuales de los modelos y la madurez de los entornos diseñados para contenerlos es real y significativa. Cada empresa señaló al socio de pruebas como responsable. Irregular lo negó. Independientemente de quién tenga razón, el resultado fue el mismo.

Para quienes están integrando agentes de IA en operaciones reales, este mes ofrece un caso de estudio concreto sobre qué significa operar con agentes de forma responsable: no basta con que el modelo sea capaz y seguro en producción si los procesos de evaluación previos no están a la misma altura.

¿Tu empresa tiene un protocolo definido para evaluar agentes de IA antes de ponerlos en producción?