2.2 Por qué una IA puede inventar

Qué aprenderás: qué es una alucinación, por qué ocurre, cómo reconocer las más típicas y cómo reducirlas.

Una alucinación es cuando la IA genera algo falso y lo presenta con total seguridad. No es una mentira (no sabe que lo es): es el resultado normal de completar de forma plausible cuando no tiene el dato.

Las más frecuentes:

Un caso real. En 2023, un juzgado federal de Nueva York sancionó a unos abogados que habían presentado un escrito con sentencias que no existían: las había «encontrado» un chat de IA y nadie las comprobó. El problema no fue usar IA: fue entregar sin verificar (apéndice D).

Por qué ocurre:

1. Predice lo plausible, no lo que sabe que es cierto.
2. No tiene una señal fiable de «no lo sé». Ante una laguna, completa igual.
3. Le falta contexto. Una pregunta ambigua o sin datos invita a rellenar huecos.
4. Tiende a complacerte. Si tu pregunta da por sentado algo, suele seguirte la corriente.

Cómo reducirlas (no eliminarlas):

• Dale la fuente. «Responde solo con lo que dice este texto; si no está, di que no está.»
• Permite el «no lo sé». «Si no estás seguro, dilo.»
• Pide un paso comprobable. «Dame la cita textual y dónde la encuentro.»
• No preguntes con premisas. Mejor «¿ocurrió X?» que «¿por qué ocurrió X?».
• Y verifica lo importante, siempre: ninguna petición bien escrita sustituye a comprobar (lección 2.6).

Cuidado con «¿estás seguro?». Preguntarle a la IA si está segura no es una verificación: puede contestar que sí con la misma seguridad con la que se equivocó, o cambiar una respuesta correcta por una errónea solo por insistir.

Ideas clave:

• Alucinar es completar de forma plausible sin tener el dato.
• Citas, cifras, enlaces, nombres y fechas son los puntos más débiles.
• La confianza que muestra no mide su exactitud.

Error común: verificar solo lo que te parece raro. Lo peligroso es lo que suena normal y es falso.