Hay personas que llegan a un campo y simplemente confirman lo que ya se sabe. Y hay personas que llegan, miran los datos con ojos frescos y dicen: "espera, esto está mal y hay que decirlo". Timnit Gebru es de las segundas. Nacida en Addis Abeba, Etiopía, en 1983, llegó a los Estados Unidos como refugiada política en 1999 y se convirtió en una de las voces más importantes de la IA moderna, no porque construyó el modelo más grande, sino porque tuvo el coraje de preguntar para quién están construidos estos sistemas.
En 2018, junto a Joy Buolamwini del MIT Media Lab, publicó el estudio "Gender Shades": la primera evidencia empírica, revisada por pares, de que los sistemas comerciales de reconocimiento facial ya desplegados en seguridad y negocios fallaban mucho más con mujeres de piel oscura que con hombres de piel clara. En algunos casos, la tasa de error llegaba al 34.7% para mujeres negras, frente a menos del 1% para hombres blancos. No era una hipótesis; eran números que las empresas no podían ignorar, aunque lo intentaron. Ese paper solo sacudió a la industria y llevó a Amazon, Microsoft e IBM a revisar o pausar la venta de sus sistemas de reconocimiento facial a policías.
Timnit hizo un doctorado en el Laboratorio de IA de Stanford y luego trabajó en el grupo FATE (Fairness, Transparency, Accountability and Ethics) de Microsoft Research en Nueva York antes de unirse a Google, donde llegó a ser co-líder técnica del equipo de IA Ética. Su salida de Google en diciembre de 2020 fue pública y dolorosa: la empresa le pidió que retirara un paper sobre los riesgos de los modelos de lenguaje gigantes y cuando ella se negó, la situación escaló hasta su despedida. En lugar de quedarse callada, habló, y el mundo escuchó. En 2021 fundó el DAIR Institute (Distributed AI Research Institute), un laboratorio independiente dedicado a documentar el impacto de la IA en comunidades marginadas, con especial atención a Africa y los africanos en la diáspora. También es cofundadora de Black in AI, el grupo que abrió espacio para investigadores negros en una industria que los ignoraba.
La lección que me llevo de Timnit es que la verdad técnica y la justicia social no son caminos separados: son el mismo camino. Decir "este sistema falla más con personas negras" no es política, es ciencia. Y hacen falta personas dispuestas a hacer esa ciencia aunque incomode. Cada vez que usas una herramienta de IA hoy, existe una probabilidad mayor de que sea más justa gracias a su trabajo. Eso es legado real.
Enlaces oficiales de Timnit Gebru, La científica que le dijo la verdad a la IA
Más figuras que moldearon la IA en Leyendas de la IA, o vuelve a las noticias.