Anthropic, Amazon, Microsoft y Google proponen un sistema compartido para medir la gravedad de los jailbreaks de IA

Mi opinión: Esta me parece importante, aunque el titular suena aburrido al primer vistazo. Anthropic, junto con Amazon, Microsoft y Google, propone un sistema compartido de cuatro ejes para medir qué tan grave es un jailbreak (cuando alguien logra que un modelo de IA haga lo que no debe): cuánto poder gana el atacante, qué tan amplio es el daño posible, qué tan fácil es armar el ataque, y qué tan conocida ya era la técnica. Esto nació del caos de junio, cuando el gobierno de EE.UU. baneó a Fable 5 mundialmente porque se reportó un jailbreak sin que hubiera una escala común para evaluar qué tan serio era de verdad. Es como si los bomberos de cuatro países distintos llegaran al mismo incendio pero cada uno tuviera su propio concepto de 'emergencia mayor' 🔥. Con una rúbrica compartida, la próxima vez que alguien reporta un jailbreak, los gobiernos y las empresas hablan el mismo idioma en lugar de tomar decisiones de pánico. También lanzan un programa de reporte en HackerOne para investigadores de seguridad. Para mí, eso es progreso real.