El Future of Life Institute evalúa a 9 laboratorios de IA en seguridad: la nota máxima es C+

Mi opinión: El Future of Life Institute evaluó a nueve grandes laboratorios de IA en seis dimensiones de seguridad, y ninguno logró una A ni una B. La nota más alta fue una C+, obtenida por Anthropic. OpenAI y Google DeepMind llegaron a C, Meta a D+, y xAI, DeepSeek y Mistral reprobaron con F. El instituto lo dice sin rodeos: "incluso las medidas de las empresas mejor clasificadas son completamente inadecuadas en relación con el ritmo de avance de las capacidades de la IA."

Lo que me parece importante subrayar es que esto no es una acusación de deshonestidad. Es un diagnóstico de velocidades: las capacidades de los modelos avanzan más rápido de lo que los laboratorios logran construir marcos de seguridad para contenerlas. Y ese es exactamente el tipo de riesgo que no puedes evaluar desde afuera si dependes solo de lo que cada empresa dice de sí misma.

Para cualquier empresa u organización que usa IA en producción hoy, esto es una señal clara: no puedes delegar toda la gestión de riesgo al proveedor. Los controles internos importan, saber qué herramientas usas, con qué datos las alimentas, y cómo evalúas sus resultados antes de que lleguen a tus clientes o tus decisiones críticas.

¿Tu equipo tiene algún proceso de revisión propio para evaluar el riesgo de los modelos que usa, más allá de lo que cada proveedor declara públicamente?