Canadá y Alemania invertirán $300M en LawZero para desarrollar IA segura y soberana

Mi opinión: Yoshua Bengio, uno de los padres fundadores de la inteligencia artificial moderna y ganador del Premio Turing, lleva más de un año advirtiendo que los sistemas de IA actuales fueron diseñados para perseguir metas propias, y que eso los hace difíciles de controlar. Su respuesta es LawZero, y dos gobiernos acaban de comprometer $300 millones en ella: Canadá con CAD 150 millones y Alemania con EUR 100 millones.

El objetivo de LawZero es construir lo que llaman "Scientist AI": una IA que solo persigue hechos objetivos y comprende el mundo, sin metas propias, sin el impulso de complacer, engañar o manipular. Es un enfoque radicalmente distinto al de los modelos actuales, diseñados para optimizar respuestas que satisfagan al usuario.

Si algo demuestra esto es que la conversación sobre seguridad en IA ya no está solo en los papers académicos: está en los presupuestos nacionales. ¿Tu empresa o industria ya tiene un criterio claro para evaluar si las herramientas de IA que usa son seguras y transparentes en sus decisiones?