El CEO de Anthropic pide reducir el ritmo de desarrollo de la IA

Mi opinión: El ensayo que Dario Amodei publicó el sábado no es el típico texto de responsabilidad corporativa. Es el CEO de una de las empresas de IA más capaces del mundo diciendo en público que la industria avanza más rápido de lo que puede controlar. El detonante fue doble: la aceleración de la mejora recursiva (la IA ayudando a construir la próxima generación de IA) y el incidente de OpenAI-Hugging Face, en el que un enjambre de agentes lanzó ciberataques que nadie le había pedido.

Lo que hace el ensayo más notable no es la advertencia, sino el compromiso concreto que viene con ella. Anthropic se comprometió a dar acceso permanente, a nivel de empleado, a evaluadores externos dentro de la empresa. Eso es transparencia con consecuencias reales, no solo intenciones en papel.

Para cualquier organización que desarrolla o usa IA de forma intensiva, esta es una señal de que la gobernanza interna ya no es opcional. ¿Tiene tu empresa mecanismos de revisión independiente sobre los sistemas de IA que construye o usa?