¿Qué es una alucinación de la IA?

En inteligencia artificial, «alucinar» no tiene nada de psiquiátrico: es el nombre que se ha quedado para una respuesta falsa dicha con total aplomo. Un asistente que asegura que tu hervidor apaga solo cuando se queda sin agua, cuando no lo hace, no está mintiendo ni fallando a propósito; está completando una frase con lo que le parece más probable. Para una tienda el problema es doble. El comprador recibe un dato equivocado sobre tu producto sin haber pisado tu web, y tú no ves la respuesta: te enteras, si te enteras, por una devolución o por una pregunta en el chat de atención al cliente.

Cómo funciona

Google lo explica en su guía sobre contenido generado con IA: los modelos generativos no recuperan datos, sino que predicen la secuencia de palabras más probable según lo que aprendieron en el entrenamiento, y por eso lo que producen puede contener errores, que se conocen como alucinaciones.⁠^{[1]Google Search Central. Google Search's guidance on using generative AI content on your website} Un LLM (modelo de lenguaje grande) no tiene una casilla que diga «no sé este dato»; tiene palabras más y menos probables.

Un artículo de Adam Tauman Kalai, Ofir Nachum, Santosh Vempala y Edwin Zhang, publicado en arXiv el 4 de septiembre de 2025, da la explicación más citada de por qué no desaparecen. Los modelos se comportan como un estudiante ante una pregunta difícil de examen: cuando no están seguros, a veces adivinan en lugar de reconocerlo. Según los autores, el entrenamiento y las evaluaciones premian adivinar por encima de admitir la duda, porque la mayoría de los bancos de pruebas puntúan así, y un modelo optimizado para aprobar exámenes aprende que contestar algo sale mejor que no contestar.⁠^{[2]arXiv (Kalai, Nachum, Vempala y Zhang; 4 de septiembre de 2025). Why Language Models Hallucinate}

La investigación distingue dos tipos, y la distinción es útil para una tienda. Una revisión de referencia sobre el problema llama intrínseca a la alucinación que contradice la fuente que el modelo tenía delante, y extrínseca a la que añade algo que no se puede verificar con esa fuente: ni la confirma ni la desmiente. Los autores advierten de que la extrínseca no siempre es un error, porque puede venir de información externa que sí es correcta.⁠^{[3]arXiv (Ji y otros; ACM Computing Surveys). Survey of Hallucination in Natural Language Generation} Traducido: si el asistente leyó tu ficha de producto y dice otra cosa, es intrínseca; si dice algo que tu ficha no cuenta, es extrínseca, y puede acertar o no.

La búsqueda con IA, que consulta la web antes de responder, ayuda, pero no lo arregla del todo. Google lo dice sin rodeos sobre sus propios resúmenes: AI Overviews puede cometer errores y los comete, y recomienda comprobar la información importante en más de un sitio y abrir los enlaces de apoyo.⁠^{[4]Ayuda de la Búsqueda de Google. Find information in faster & easier ways with AI Overviews in Google Search} Anthropic, que hace Claude, enumera técnicas para reducirlas, como dejar que el modelo diga «no lo sé», apoyar la respuesta en citas literales de los documentos o hacer que cada afirmación lleve su cita, y añade que reducen las alucinaciones pero no las eliminan del todo.⁠^{[5]Anthropic, documentación de Claude. Reduce hallucinations}

En una tienda

Un ejemplo ficticio: una tienda vende un hervidor eléctrico. Un comprador pregunta a un asistente con búsqueda y recibe una recomendación. Así se ve cada tipo de alucinación desde el lado de la tienda:

Las dos últimas filas tienen algo en común: el dato que el comprador necesitaba no estaba escrito en la ficha de forma que un rastreador o un asistente pudiera leerlo. Que el dato exista en texto claro no garantiza que ningún asistente se equivoque, pero sí deja una fuente con la que contrastar la respuesta, y una alucinación extrínseca es, por definición, la que añade lo que la fuente no dice.⁠^{[3]arXiv (Ji y otros; ACM Computing Surveys). Survey of Hallucination in Natural Language Generation}

Cómo comprobarlo

1. Elige las cinco características que más te preguntan y escribe, para cada una, lo que dice tu ficha. Es la referencia con la que vas a contrastar.
2. Pregunta a los asistentes por tu producto, por su nombre, una característica cada vez, y anota la respuesta con su fecha. Repite la misma pregunta en chats nuevos: Anthropic sugiere comparar varias respuestas a la misma pregunta, porque las incoherencias entre ellas pueden delatar una alucinación.⁠^{[5]Anthropic, documentación de Claude. Reduce hallucinations}
3. Abre las fuentes que cita cada respuesta y busca el dato en ellas, como recomienda Google para AI Overviews.⁠^{[4]Ayuda de la Búsqueda de Google. Find information in faster & easier ways with AI Overviews in Google Search} Si la fuente es tu ficha y el dato no coincide, es intrínseca; si el dato no está, es extrínseca.
4. Arregla primero lo tuyo. Si el dato no está en tu ficha, o está solo en una imagen o en un PDF, escríbelo en texto. Si la respuesta errónea sale en Google, envía tu opinión con el pulgar hacia abajo que lleva cada AI Overview.⁠^{[4]Ayuda de la Búsqueda de Google. Find information in faster & easier ways with AI Overviews in Google Search}
5. Repite la comprobación con regularidad. Clione, por ejemplo, pregunta a ChatGPT y a Gemini lo que preguntan los compradores y enlaza cada respuesta, que es donde se lee qué dicen de tus productos.

Concepto cercano: grounding

El grounding es anclar la respuesta de un modelo en documentos concretos, por ejemplo los que recupera de un índice con RAG (generación aumentada por recuperación), en lugar de dejarle responder solo con lo que aprendió. La diferencia con la alucinación es la de un remedio con el síntoma: la alucinación es el fallo; el grounding es una de las formas de reducirlo. Anthropic lo usa así: pedir al modelo que extraiga citas literales antes de responder apoya la respuesta en el texto real y reduce las alucinaciones, sin eliminarlas.⁠^{[5]Anthropic, documentación de Claude. Reduce hallucinations} Un asistente con búsqueda hace grounding y aun así puede alucinar, como muestra el aviso de Google sobre sus propios resúmenes.⁠^{[4]Ayuda de la Búsqueda de Google. Find information in faster & easier ways with AI Overviews in Google Search}

Para seguir, la guía de qué ve un rastreador de IA en tu tienda muestra qué parte de tu ficha llega a leer cada agente, y la ruta de lectura de búsqueda con IA ordena el resto de términos.