Joseph Weizenbaum

En 1966, Joseph Weizenbaum hizo algo que cambiaría para siempre la relación entre humanos y máquinas: escribió ELIZA, el primer programa de computadora capaz de sostener una conversación en lenguaje natural. Nacido en Berlín el 8 de enero de 1923 y criado como judío en la Alemania nazi, Weizenbaum escapó con su familia a los Estados Unidos en enero de 1936. Esa experiencia de haber visto cómo una sociedad entera puede ser manipulada por sistemas y discursos marcó su mirada crítica toda la vida.

ELIZA fue publicada en Communications of the ACM en 1966. El programa simulaba a un psicoterapeuta rogeriano: hacía preguntas abiertas, parafraseaba las respuestas del usuario y creaba la ilusión de comprensión. Weizenbaum lo diseñó como un experimento de lingüística computacional, para demostrar que la comunicación humano-máquina era superficial. Lo que descubrió lo dejó sin palabras: la gente se abría emocionalmente ante la pantalla. Su propia secretaria le pidió privacidad para "hablar" con el programa. Usuarios que sabían perfectamente que era una máquina igual le confiaban sus secretos más profundos.

Esa reacción lo perturbó tanto que escribió "Computer Power and Human Reason" (1976), uno de los libros más importantes sobre ética tecnológica del siglo XX. Ahí argumentó que aunque la inteligencia artificial sea posible, no debemos jamás delegar en máquinas las decisiones que requieren juicio humano: compasión, sabiduría, responsabilidad moral. Se incorporó al MIT como profesor de ciencias de la computación en 1963 y obtuvo la titularidad en 1970. En 2008, tras su muerte, se estableció el Premio Weizenbaum de la Sociedad Internacional de Ética e Información Tecnológica para reconocer contribuciones sobresalientes a la ética computacional.

Para mí, Weizenbaum es la figura más honesta de toda la historia de la IA: no solo la construyó, sino que se atrevió a mirarla de frente y decir "esto me preocupa". Murió en Berlín el 5 de marzo de 2008, a los 85 anos. Hoy que los chatbots de IA viven en nuestros bolsillos y muchos les confiesan cosas que no le dirían ni a un amigo, su advertencia suena más relevante que nunca. No es que la IA sea mala, sino que entenderla por dentro, como hacía Weizenbaum, nos hace usuarios más libres e inteligentes.