Si hay un paper que partió la historia de la inteligencia artificial en dos, es "Attention Is All You Need", publicado en 2017. Noam Shazeer fue uno de sus ocho autores, y el único que llevaba ya 17 años en Google cuando lo firmó. Entró a la empresa en el año 2000, recién salido de Duke con un grado en Ciencias de la Computación y Matematicas, cuando Google aun cabía en un garage. Pasó dos décadas siendo una de las mentes más calladas y productivas de la historia del lugar.
El paper de 2017 propuso la arquitectura Transformer, el bloque de construcción de prácticamente toda la IA generativa que existe hoy: GPT, Gemini, Claude, LLaMA. Antes de eso, Shazeer ya había dejado su huella en búsqueda web, corrector de ortografía y modelos de lenguaje internos. Pero el Transformer fue el momento donde una idea técnica elevante cambió el rumbo de todo el campo. Además, Shazeer es coautor de trabajos sobre Mixture of Experts (MoE), una arquitectura que permite escalar modelos de manera eficiente y que hoy usan modelos como Gemini y, según reportes, GPT-4.
En 2021 hizo algo que pocos se atreven: dejó Google para fundar Character.AI junto a su colega Daniel de Freitas. En un momento en que el mundo todavía no sabía qué era ChatGPT, ellos ya lanzaban un chatbot conversacional basado en Transformers, antes que OpenAI abriera las puertas al publico. La apuesta valió: Character.AI se convirtió en una de las plataformas de IA conversacional mas populares del mundo. En 2024, Google pagó 2.7 mil millones de dólares para licenciar la tecnología de Character.AI y traer a Shazeer de regreso como VP de Ingeniería, liderando el desarrollo de Gemini. TIME lo incluyó en su lista TIME 100 AI de 2023.
La lección que me llevo de Noam Shazeer es que los grandes aportes no siempre vienen con ruido. Dos décadas de trabajo silencioso en Google, un paper de 12 páginas firmado entre ocho, y de repente el mundo entero construye sobre ese cimiento. Cada vez que escribes un prompt, cada vez que una IA te entiende y te responde, hay algo de ese trabajo discreto viviendo dentro. A veces la revolución no llega anunciada con trompetas: llega firmada entre ocho nombres en un PDF.
Enlaces oficiales de Noam Shazeer, El arquitecto del Transformer
Más figuras que moldearon la IA en Leyendas de la IA, o vuelve a las noticias.