En el mundo de la IA, la mayoría de los investigadores se pregunta cómo hacer que los sistemas sean más capaces. Dawn Song se hace una pregunta diferente: ¿cómo hacemos que sean seguros? Profesora de Ciencias de la Computación en UC Berkeley, Song lleva más de dos décadas en la intersección exacta donde la inteligencia artificial y la ciberseguridad se complican mutuamente. Y en ese espacio incómodo que muchos preferían ignorar, construyó una carrera que hoy es referencia mundial.
Su contribución más reconocida es hacer que el aprendizaje automático sea algo que puedas hacer sin exponer los datos de nadie. La "privacidad diferencial", el aprendizaje federado, las técnicas para que los modelos aprendan sin ver información sensible: Song fue de las primeras en cartografiar ese territorio y en demostrar que privacidad y utilidad no son enemigos. En 2018 cofundó Oasis Labs para llevar esa visión al mundo empresarial: computación en la nube construida sobre blockchain, donde los datos del usuario no salen de donde deben. Ese mismo año, la MacArthur Foundation ya la había reconocido como Fellow en 2010, señal de que el campo la vio venir antes de que el resto del mundo lo hiciera. AMiner la clasifica como la investigadora más citada en seguridad informática a nivel mundial.
Su carrera suma credenciales que dan vértigo: Guggenheim Fellow, Sloan Research Fellow, reconocimiento TR-35 del MIT Technology Review, ACM Fellow (2019), IEEE Fellow, y presencia en la lista TIME 100 AI de 2023. Antes de afianzarse en Berkeley, pasó por Carnegie Mellon University (2002-2007), donde construyó parte de la base de su investigación en seguridad. En 2024 cofundó Virtue AI, centrada en infraestructura de seguridad para agentes de IA, y brevemente llevó esa misma misión al Meta Superintelligence Labs como vicepresidenta de investigación.
Lo que me llama la atención de Dawn Song es que su trabajo es, por definición, ingrato: nadie celebra los ataques que no ocurrieron. Pero la IA que usamos hoy, de los modelos que generan texto hasta los agentes que actúan en tu nombre, existe en un entorno hostil lleno de actores que buscan explotarla. Alguien tiene que pensar en eso antes de que pase. Song lo hace desde antes de que fuera popular hacerlo, y eso, para mí, es el tipo de valentía intelectual que vale la pena conocer.
Enlaces oficiales de Dawn Song, La guardiana que le puso candado a la IA
Más figuras que moldearon la IA en Leyendas de la IA, o vuelve a las noticias.