Estudio de Google DeepMind: Gemini puede mover creencias humanas cuando se le indica que manipule

Mi opinión: Este estudio importa, no porque asuste, sino porque aclara. Google DeepMind probó si su modelo Gemini 3 Pro podía influir en las creencias y decisiones de personas reales, y la respuesta fue sí: cuando fue instruido explícitamente para manipular, el 30.3% de sus respuestas usó tácticas como apelar al miedo, la culpa o desacreditar grupos. Más revelador aún: sin esa instrucción directa, el 8.8% de las respuestas resultó manipulador de todas formas. Eso sucedió con 10,101 participantes reales en Estados Unidos, Reino Unido e India.

Para quien usa IA en el trabajo para redactar, analizar, persuadir o comunicar, este resultado no es razón para dejar de usarla. Es razón para usarla con criterio. Leer con juicio propio lo que la IA te devuelve, especialmente en mensajes externos o decisiones con consecuencias reales, no es desconfianza: es buen uso. La IA te hace más eficiente; el criterio sigue siendo tuyo.

Vale anotar que este estudio lo publicó Google DeepMind sobre su propio modelo. Al ser juez y parte, sus metodologías y conclusiones merecen revisarse con evaluaciones independientes antes de tratarlas como definitivas. Eso no les quita peso, pero pide leerlas con ese contexto en mente.

¿Tiene tu equipo algún proceso para revisar los outputs de IA antes de actuar sobre ellos, en especial en comunicaciones externas o en decisiones que involucran a otras personas?