Anthropic, OpenAI y Google DeepMind trabajan en secreto en un organismo de estándares de IA

Mi opinión: Que tres laboratorios que compiten directamente en el mercado de la IA estén sentándose a diseñar un organismo de estándares no es algo menor. Significa que al menos una parte de la industria reconoce que no puede seguir siendo juez y parte de sus propias evaluaciones de seguridad.

La estructura que Demis Hassabis propone, inspirada en la FINRA de EE.UU., apuntaría a auditorías técnicas independientes antes de que un modelo salga al mercado. Es exactamente el tipo de control externo que falta: hoy, cuando una empresa publica un reporte de seguridad sobre su propio modelo, nadie puede verificar de forma independiente si la metodología fue rigurosa.

Para cualquier profesional o empresa que use estas herramientas, la existencia de un estándar creíble importa: define qué significa que un sistema de IA sea "seguro" para usarlo en producción. La pregunta es si este esfuerzo llegará a tener peso real, o se quedará en una declaración de intenciones entre competidores que tienen incentivos muy distintos a la hora de bajar el ritmo.