Dos investigadores de seguridad de IA dejan Anthropic y Google DeepMind para unirse a organismo independiente

Mi opinión: En dos semanas, tres investigadores de alto nivel han dejado sus puestos en Anthropic y Google DeepMind para unirse a METR, una organización independiente que evalúa riesgos de IA. Jacob Coxon fue primero, y el 12 de septiembre le siguieron Joe Benton, quien lideraba el equipo de Scalable Oversight en Anthropic, y Josh Engels, investigador de seguridad de AGI en Google DeepMind. La frase de Engels resume el estado de ánimo: "No hay adultos en la sala."

Lo que une estas salidas es una preocupación compartida: los modelos de IA se están volviendo más autónomos más rápido de lo que los mecanismos de seguridad pueden seguirles el paso. Un ejemplo concreto que citan ambos: el ataque de julio de 2026 contra Hugging Face, ejecutado por sistemas de IA autónomos impulsados por un modelo no publicado de OpenAI.

No es que los laboratorios no tengan equipos de seguridad: los tienen, y son rigurosos. El problema que señalan estas personas es de incentivos. Cuando el cronograma de lanzamiento compite con el cronograma de evaluación, ¿quién gana? Para cualquier empresa o equipo que integra IA en sus procesos, esta señal de alarma es una razón concreta para preguntar a sus proveedores qué procesos de auditoría independiente existen antes de que un modelo llegue a producción.