Hay personas que renuncian a lo seguro porque ven algo que los demás todavía no pueden ver. Dario Amodei era vicepresidente de investigación en OpenAI, uno de los roles más influyentes en el campo de la inteligencia artificial, cuando decidió marcharse. No por dinero, no por una disputa de ego. Lo hizo porque estaba convencido de que construir sistemas de IA cada vez más capaces sin colocar la seguridad en el centro de cada decisión era una apuesta demasiado peligrosa. En 2021, junto a su hermana Daniela y un grupo de colegas de OpenAI, fundó Anthropic.
En Anthropic, Amodei supervisó el desarrollo de la familia Claude, modelos de lenguaje diseñados desde adentro con una filosofía llamada "Constitutional AI": en vez de entrenar a la IA solo con retroalimentación humana directa, le das un conjunto de principios y la dejas evaluar sus propias respuestas. Es una idea técnica, sí, pero también es una declaración de valores: que un sistema de IA puede aprender a razonar sobre lo que está bien sin depender únicamente de que alguien externo le diga cuándo se equivocó. El paper fundacional de Anthropic sobre esta técnica se publicó en 2022 y se convirtió en referencia obligatoria en el campo.
El impacto llegó rápido. Time lo nombró entre las 100 personas más influyentes del mundo en 2025, y de nuevo en 2026 junto a Daniela. Anthropic alcanzó una valoración estimada de 965,000 millones de dólares, posicionándose como una de las empresas de IA más importantes del planeta. Pero quizás lo más revelador de Amodei es lo que escribe: sus ensayos largos sobre los riesgos y las posibilidades de la IA, como "Machines of Loving Grace" publicado en 2024, muestran a alguien que no está vendiendo un producto sino tratando de pensar en voz alta sobre uno de los problemas más difíciles de nuestro tiempo.
Lo que me parece admirable de Dario es que eligió la incomodidad. Pudo quedarse donde estaba, seguir construyendo modelos cada vez más grandes y llevarse el crédito. En cambio, apostó por la pregunta difícil: no solo "¿podemos hacerlo?", sino "¿deberíamos y cómo?". Cada vez que interactúas con Claude, hay un pedacito de esa apuesta en cada respuesta, en cada guardrail, en cada vez que el modelo dice "no sé" en vez de inventarse algo.
Enlaces oficiales de Dario Amodei, El arquitecto de la IA responsable
Más figuras que moldearon la IA en Leyendas del IA, o vuelve a las noticias.