2.1 Cómo funciona una IA generativa

Qué aprenderás: la idea básica de cómo una IA genera texto, por qué eso explica casi todo lo que hace bien y mal, y qué no es.

Una IA generativa de texto (un modelo de lenguaje) se entrena con enormes cantidades de texto. De ahí aprende patrones: qué palabras suelen ir después de qué otras, en qué contextos, con qué estilo. Cuando le escribes algo, no «busca la respuesta»: predice, palabra a palabra, la continuación más probable de lo que le has escrito, teniendo en cuenta tu mensaje y el resto de la conversación.

Una analogía. Piensa en el autocompletado de tu móvil, pero entrenado con una biblioteca entera y capaz de seguir el hilo de una conversación larga. Escribe de forma tan fluida que parece que entiende. En realidad, lo que hace extraordinariamente bien es producir texto plausible.

Qué se desprende de ahí:

Modelo y producto. Lo que usas (un chat, un asistente) es un producto construido sobre uno o varios modelos, a veces con herramientas añadidas: búsqueda en internet, lectura de archivos, ejecución de código. Cuando el producto busca en la web, la respuesta se apoya en lo que encontró, pero el modelo sigue redactando y puede equivocarse al resumir.

Qué no es una IA generativa:

• No es una persona. No tiene experiencias, no recuerda su vida y no «sabe» lo que no ha visto en sus datos.
• No es un buscador. Un buscador te lleva a documentos que existen. Una IA genera un texto nuevo.
• No es neutral ni infalible. Refleja los datos con los que se entrenó y las decisiones de quien la diseñó.

Demostración (5 minutos). Abre cinco conversaciones nuevas, una detrás de otra, y en cada una escribe lo mismo: «Dime un número del 1 al 10.» Apunta qué sale. Lo normal es que se repitan números y que haya preferencias llamativas: es la predicción de lo más probable, no un azar limpio. Después haz otra prueba: «¿Cuántas personas viven en la calle donde vives?» Fíjate en si responde con seguridad algo que no puede saber.

Ideas clave:

• Una IA generativa predice la continuación más probable: produce texto plausible.
• Por eso es muy buena redactando y muy mala distinguiendo, por sí sola, lo cierto de lo que suena cierto.
• No es una persona, no es un buscador y no es neutral.

Error común: creer que, si la respuesta es larga, ordenada y segura, será correcta. La fluidez no es una prueba de verdad.