La IA adivina, no sabe, y tú firmas.

Dentro del expediente

Pregunta a diez personas qué es la inteligencia artificial. Vas a oír diez cosas distintas. Unos creen que es un cerebro. Otros, que es un buscador con esteroides. Y casi todos la usan a diario para cosas que importan.

Lo raro es que la respuesta cabe en una frase, y esa frase lo cambia todo. Así que vamos a ella.

Ni un cerebro ni un script normal

Un programa de toda la vida sigue reglas que escribió una persona. Si el IVA es del 21%, multiplica por 0,21. Le pusiste tú las reglas, hace exactamente eso, y si falla, falla porque te equivocaste al escribirlas. Predecible y aburrido, como debe ser una máquina.

Una IA de estas, un modelo de lenguaje, que es lo que hay debajo de ChatGPT y compañía, no funciona así. Nadie escribió las reglas. A la máquina le pusieron delante cantidades brutales de texto y un solo juego, repetido miles de millones de veces, que consistía en adivinar la palabra que viene después. Cada vez que fallaba, se ajustaban un poco unos números por dentro. Al final quedan millones y millones de números que guardan los patrones del lenguaje humano.

Quédate con esto, porque es la clave que casi nadie cuenta. El código es minúsculo y tonto, se limita a multiplicar. El conocimiento no está en el código. Está en esos millones y millones de números que nadie escribió a mano y que no se pueden abrir y leer como se lee un archivo de reglas. No hay un archivo donde ponga lo que sabe. Hay una montaña de números que, bien multiplicados, producen frases que suenan bien.

Qué hace de verdad cuando le preguntas

Le escribes algo y la máquina hace una sola cosa. Predice el siguiente trozo de texto, y luego el siguiente, y el siguiente. Es un autocompletar gigante. El del móvil te sugiere la palabra que sigue; este te construye el escrito entero con la misma mecánica, solo que muchísimo mejor.

Y aquí está la palabra para tatuarse es «genera», no «consulta». No abre una base de datos de verdades para buscar la respuesta. Fabrica la continuación más probable a partir de los patrones que absorbió. Cuando le pides una sentencia y te suelta un número de resolución con el formato perfecto que no existe, no te está mintiendo ni ha fallado una búsqueda. Ha hecho su trabajo, que es producir algo con pinta de respuesta. Que sea verdad o mentira le da igual, porque no distingue las dos cosas. Solo distingue lo que suena probable de lo que no.

Una cita inventada le sale con la misma cara que una buena. Porque las dos son, para la máquina, texto que encaja.

Un matiz. Si le enchufas un buscador, y eso es justo lo que hacen ChatGPT con navegación o Perplexity, entonces sí sale a por fuentes reales y te las trae. Pero el chat pelado, el que usa la mayoría, genera y no busca. Y aun con buscador, la frase final la redacta el generador, así que la fuente la abres tú igual.

¿Piensa? ¿Sabe que es un programa?

No en el sentido humano. Emily Bender, Timnit Gebru y sus coautores sostienen que un modelo así une secuencias de lenguaje según probabilidades, sin referencia al significado. Fuente primaria ↗ Si le preguntas "¿eres un programa?", no mira dentro de sí y te informa de lo que encuentra. Genera la respuesta que, según su entrenamiento, suena adecuada a esa pregunta. Igual que generaría un poema o una excusa.

Habla como si pensara porque aprendió de millones de textos escritos por gente que piensa. La pinta de que entiende está en lo que sale por la boca, no en lo que hay en la cabeza, porque no hay cabeza. Parece que sabe. En realidad adivina, muy muy bien. Tan bien que engaña, y ahí empieza el problema.

Te debo un matiz. Hay debate serio entre gente que sabe sobre si eso que hacen los modelos nuevos al "razonar por pasos" es razonar de verdad o solo texto con forma de razonamiento. Ese debate está abierto y no te lo voy a cerrar yo en un artículo. Para trabajar me basta con lo que está fuera de debate, que genera en vez de consultar. Todo lo demás, con pinzas.

El nombre es la primera trampa

"Inteligencia artificial" es medio ciencia y medio marketing, y la parte de marketing te la han colado. La palabra inteligencia te hace pensar en alguien que sabe. Y no sabe nada, solo adivina.

Hay nombres más honestos. Los técnicos lo llaman modelo estadístico del lenguaje. Bender, Gebru y sus coautores lo llamaron loro estocástico, la imagen de un loro que ha leído medio internet y clava la palabra siguiente sin entender ni una. Si esto se hubiera vendido como "autocompletar muy bueno" o "adivinador de texto", medio problema del mundo no existiría, porque a nadie se le ocurriría firmar un escrito con lo que le dice un adivinador sin comprobarlo antes.

Ni siquiera la ley se moja con la palabra inteligencia. El Reglamento europeo de IA, cuando tiene que definir qué es un sistema de IA, no habla de que piense ni de que entienda. Habla de un sistema que infiere, a partir de la información de entrada que recibe, cómo generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones. Fuente primaria ↗

Por qué esto es la madre de todo

Si te quedas con una sola idea de todo lo que escribo, que sea esta. Casi todos los líos con la IA nacen del mismo malentendido. La gente cree que la máquina sabe, o que busca, cuando lo que hace es generar.

De creer que sabe salen las alucinaciones que te cuelas en un escrito. De creer que busca sale la cita inventada que das por comprobada. De tratarla como una fuente sale que firmes su palabra sin pasarla por la tuya. Y de creer que el porcentaje de seguridad que te declara significa algo sale que le hagas caso justo cuando más se equivoca.

Cambia la etiqueta en tu cabeza y cambia todo lo demás. Es una máquina que adivina el siguiente trozo de texto con una puntería que asusta, no un colega que sabe. Úsala para eso, que es mucho, y no para lo otro, que es donde te la juegas.

La IA no sabe, adivina, y adivina de maravilla. Y lo que salga de ahí lo firmas tú, no ella. Trátala como un generador, nunca como una fuente.

Lo que me preguntan cuando cierro el portátil.

¿La inteligencia artificial es un programa?

Corre como un programa, sí, pero no como uno normal. Un programa de siempre sigue reglas que escribió una persona. Un modelo de lenguaje no tiene reglas escritas. Tiene millones y millones de números ajustados solos durante el entrenamiento, y en esos números, que nadie redactó ni puede leer, vive lo que parece que sabe. El código solo los multiplica.

¿La IA piensa o entiende lo que dice?

No en el sentido humano. Predice el texto que suena más probable a partir de lo que absorbió. Habla como si pensara porque aprendió de textos escritos por personas que piensan. Si eso que hace al razonar por pasos cuenta como razonar de verdad es tema de debate abierto. Que genera en vez de consultar es como está construido.

¿Por qué la IA se inventa datos y citas?

Porque su trabajo no es decir la verdad, es producir la continuación más probable de un texto. No consulta una base de datos de hechos y fabrica algo que tiene forma de respuesta. Por eso una referencia inventada le sale con el formato perfecto y la misma seguridad que una real. La única defensa es comprobar en la fuente, siempre.

El expediente detrás del artículo.

On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? ↗Bender, Gebru, McMillan-Major y Shmitchell · FAccT · 2021
Artículo académico revisado por paresReglamento europeo de inteligencia artificial ↗EUR-Lex · Reglamento (UE) 2024/1689 · 2024
Normativa UE; comprobar versión y calendario

Fuentes consultadas hasta el 1 de octubre de 2026. Las recomendaciones y ejemplos son elaboración editorial y no se atribuyen íntegramente a estas fuentes. Comprueba versión y ámbito antes de aplicar una norma.

Divulgación general. Ninguna herramienta de esta web certifica la revisión, seguridad o conformidad de un proceso.