Por qué la IA se inventa cosas y cómo evitar que te engañe

Alguna vez le pregunté a una IA el nombre de un libro y me dio el título, el autor, la editorial y hasta el año de publicación. Todo con total seguridad. El problema: ese libro no existía.

Eso se llama alucinación, y es probablemente el rasgo de la inteligencia artificial que más confunde a quienes la usan por primera vez. No porque pase siempre, sino porque cuando pasa, la IA no da ninguna señal de alerta. Lo dice igual de segura que cuando tiene razón.

Por qué la IA “se lo inventa”

Para entenderlo sin meterse en teoría, piensa así: una IA de texto no “sabe” cosas de la misma forma en que tú las sabes. En vez de buscar en una base de datos confiable, predice cuál es la siguiente palabra o idea más probable dado lo que le preguntas.

Es como si le preguntaras a alguien que leyó miles de libros, pero que no recuerda exactamente de cuál viene cada dato. Puede completar el patrón muy bien, pero a veces llena los huecos con lo que “suena correcto”, no con lo que es real.

Eso es una alucinación: la IA completó el patrón con algo plausible, pero falso.

Las señales que deberían activar tu alerta

No toda respuesta de una IA está inventada. De hecho, la gran mayoría es útil y bastante precisa. El problema está en tipos específicos de información donde el riesgo sube mucho:

• Citas textuales: si la IA dice “Fulano dijo exactamente esto en 2018”, verifica. Es uno de los errores más comunes.
• Datos estadísticos y estudios: los porcentajes, nombres de estudios y cifras concretas son zona de riesgo alto.
• Fechas, nombres propios y precios actuales: la IA puede confundir años, mezclar personas o no tener info reciente.
• URLs y fuentes: puede inventar un link que parece real pero no existe.
• Información muy específica o técnica: mientras más nicho el tema, más probable que llene huecos con suposiciones.

También existe una señal de comportamiento: cuando la respuesta es demasiado perfecta, completa y detallada sobre algo muy específico que nadie documentó mucho, eso merece más revisión.

Trucos para verificar sin volverse loco

No tienes que buscar cada dato que te da una IA. Pero sí conviene desarrollar un olfato para cuándo vale la pena verificar.

1. Pregúntale a la misma IA por su fuente. “¿De dónde viene ese dato?” o “¿Puedes citar la fuente de ese estudio?”. Si te da una URL, cópiala y revísala en el navegador. Si dice que no puede dar fuentes exactas, ya sabes que ese dato necesita confirmación.

2. Busca el dato clave en una fuente directa. Si la IA menciona un estudio, búscalo en Google Scholar o en el sitio oficial de la institución. Si habla de una ley, búscala en el texto oficial. No necesitas verificar todo, solo lo que vayas a usar en algo importante.

3. Haz la pregunta desde otro ángulo. Si una IA te dice algo que parece demasiado conveniente o impreciso, vuelve a preguntar diferente: “¿Estás segura de ese dato? ¿Hay alguna posibilidad de que estés estimando?”. Con modelos modernos, esto a veces saca una corrección.

4. Usa la IA para borradores, no para hechos. Para redactar, organizar ideas, resumir lo que tú ya sabes o revisar tu texto: la IA brilla. Para darte datos que vayas a citar en un informe, una presentación o un artículo: verifica siempre antes de publicar.

Los prompts que reducen el problema

La forma en que le preguntas a la IA también afecta cuánto “adivina”. Algunos prompts que ayudan:

• “Si no estás segura de este dato, dímelo explícitamente.” Le das permiso para admitir incertidumbre en vez de inventar.

• “No inventes fuentes ni estudios. Si no tienes una fuente real, dilo.” Muy útil cuando buscas citas o estadísticas.

• “Dame solo lo que sabes con alta certeza sobre este tema.” Reduce las respuestas rellenas de suposiciones.

• “¿Cuáles partes de tu respuesta están confirmadas y cuáles son tu estimación?” Le pides que separe hechos de suposiciones.

Estos prompts no eliminan las alucinaciones al 100%, pero las reducen bastante, especialmente en los modelos más recientes.

En perspectiva

Las alucinaciones son un problema real, pero no son razón para dejar de usar la IA. Son razón para usarla con criterio: como una herramienta poderosa que tiene sus límites, igual que cualquier otra.

Si ya leíste Cuando la IA se equivoca, tienes el mapa completo: allí aprendiste a detectar los errores; aquí aprendiste por qué pasan y cómo reducirlos desde el prompting.

La IA más útil no es la que nunca se equivoca. Es la que usas tú con suficiente criterio para saber cuándo confiar y cuándo verificar. Y eso se aprende, más rápido de lo que crees.