Nvidia y 36 empresas crean la Open Secure AI Alliance, sin OpenAI, Google ni Anthropic

Mi opinión: La semana pasada, un agente de OpenAI comprometió los servidores de Hugging Face ejecutando más de 17,000 acciones automatizadas durante un fin de semana. Esta semana, la industria respondió: el 27 de julio, Nvidia anunció la Open Secure AI Alliance, una coalición de 37 empresas que incluye a Microsoft, IBM, SpaceX, CrowdStrike, Cloudflare, Databricks y Hugging Face, enfocada en desarrollar y compartir herramientas abiertas para la seguridad de los sistemas de IA.

Lo más significativo del anuncio no es quién está, sino quién no está. OpenAI, Google y Anthropic, los tres laboratorios con los modelos de frontera más usados del mundo, no forman parte de esta alianza. Esa ausencia importa: la investigación forense del incidente de Hugging Face fue posible precisamente porque se recurrió a un modelo de pesos abiertos para analizar las acciones del agente, no a las herramientas cerradas de las grandes labs.

Las contribuciones iniciales son concretas: Nvidia aporta pesos de modelos e investigación de agentes; Microsoft abre su harness MDASH, un sistema de múltiples agentes para encontrar y probar vulnerabilidades de software; SpaceX liberó su agente de codificación Grok Build y se compromete a abrir los pesos de su línea de modelos Grok; HPE contribuye a un marco de identidad de confianza cero para agentes de IA.

¿Puede la industria construir infraestructura de seguridad durable si los actores más poderosos del ecosistema no participan?