Alucinaciones de la IA: por qué los chatbots se inventan cosas y cómo obtener respuestas precisas

¿Qué son las alucinaciones de la IA?

Una alucinación de la IA es una respuesta de un chatbot u otro sistema de IA generativa que es falsa, inventada o incoherente, pero que se ofrece como si fuera cierta. El Instituto Nacional de Estándares y Tecnología de Estados Unidos (NIST) utiliza el término confabulación y lo define como un fenómeno en el que los sistemas de IA generativa generan y presentan con seguridad contenido erróneo o falso ^[1]. El NIST incluye los resultados que se apartan de la instrucción o contradicen afirmaciones anteriores del propio sistema, y señala que coloquialmente se denominan «alucinaciones» o «invenciones» ^[1].

Los ejemplos van desde casos judiciales inventados con citas falsas, como en una demanda estadounidense de 2023 ^[3], hasta detalles alucinados y datos desactualizados en respuestas sobre noticias ^[5]. El NIST advierte que los sistemas también pueden producir razonamientos o citas confabulados que parecen justificar una respuesta, lo que puede llevar a las personas a confiar en el resultado más de lo debido ^[1].

¿Cómo evitarlas, en resumen?

1. Proporcione al chatbot el material de referencia y pídale que responda solo a partir de ese material ^[7].
2. Permítale expresamente decir «no lo sé» ^[7].
3. Pida citas textuales y referencias para cada afirmación y luego abra usted mismo las fuentes ^[7].
4. Compruebe todo lo importante con una fuente independiente y fidedigna, porque ninguna técnica elimina el problema por completo ^[7].

¿Por qué los chatbots de IA se inventan cosas?

Los grandes modelos de lenguaje (LLM) generan texto prediciendo las palabras siguientes más probables. El NIST explica que las confabulaciones son un resultado natural de este diseño: los modelos producen resultados que se aproximan a la distribución estadística de sus datos de entrenamiento, que pueden ser precisos, pero también erróneos en los hechos o incoherentes internamente ^[1]. El NIST afirma que el problema es especialmente relevante en las respuestas abiertas y extensas y en las preguntas que requieren conocimientos especializados ^[1].

¿Por qué los modelos no dicen simplemente «no lo sé»?

Un artículo de 2025 de Adam Tauman Kalai y sus colegas, tres de ellos de OpenAI y uno de Georgia Tech, sostiene que las alucinaciones no tienen por qué ser un misterio: se originan como errores de clasificación binaria ^[2]. Si las afirmaciones falsas no pueden distinguirse de los hechos, las presiones estadísticas durante el entrenamiento las producen de forma natural ^[2]. Los autores añaden que las alucinaciones persisten porque la mayoría de las pruebas de referencia puntúan las respuestas de un modo que premia una conjetura segura por encima de un «no lo sé» honesto, de manera que los modelos están, en sus palabras, optimizados para ser buenos examinandos ^[2]. La solución que proponen es cambiar la forma de puntuar las pruebas de referencia más utilizadas ^[2].

¿Por qué suenan tan seguros?

Una redacción fluida y segura forma parte de lo que los modelos aprenden a producir. El NIST señala que surgen riesgos cuando los usuarios creen contenido falso, a menudo debido al carácter seguro de la respuesta ^[1]. Por tanto, un tono seguro no es una prueba de precisión.

¿Con qué frecuencia alucinan los chatbots de IA?

No existe una única tasa de alucinación. Depende del modelo, la tarea, el idioma y la forma de contabilizar los errores. Los estudios independientes dan una idea de la magnitud en tareas concretas.

Preguntas sobre noticias

En un estudio coordinado por la Unión Europea de Radiodifusión (UER) y dirigido por la BBC participaron 22 organizaciones de medios de servicio público de 18 países que trabajaban en 14 idiomas ^[5]. Los periodistas evaluaron más de 3,000 respuestas de ChatGPT, Copilot, Gemini y Perplexity ^[5]. Comprobaron que el 45% de las respuestas tenía al menos un problema importante, el 31% presentaba graves problemas de atribución de fuentes y el 20% contenía errores de precisión importantes, como detalles alucinados e información desactualizada ^[5]. Gemini tuvo problemas importantes en el 76% de sus respuestas ^[5]. La UER afirma que estas distorsiones fueron constantes en todos los idiomas y territorios, lo que es relevante para quienes usan la IA en idiomas distintos del inglés ^[5].

Herramientas jurídicas profesionales

Investigadores de Stanford probaron herramientas de investigación jurídica con IA de LexisNexis y Thomson Reuters y comprobaron que cada una alucinaba entre el 17% y el 33% de las veces ^[6]. Esas herramientas utilizan la generación aumentada por recuperación (RAG), que obtiene documentos antes de responder, y los autores concluyeron que las afirmaciones de los proveedores de haber eliminado las alucinaciones eran exageradas ^[6].

Estas cifras describen sistemas concretos en fechas concretas; las versiones más recientes pueden hacerlo mejor o peor. Muestran que incluso las herramientas especializadas basadas en documentos siguen cometiendo errores ^[6].

¿Qué ocurre cuando las personas confían en las alucinaciones de la IA?

Casos falsos ante un tribunal estadounidense

En Mata v. Avianca, un juez federal de Nueva York sancionó el 22 de junio de 2023 a dos abogados y a su bufete después de que presentaran resoluciones judiciales inexistentes con citas y referencias falsas creadas por ChatGPT ^[3]. Los abogados reconocieron después que seis de las resoluciones citadas habían sido generadas por ChatGPT y no existían ^[3]. Cuando uno de los abogados preguntó a ChatGPT si un caso era real, respondió que el caso «efectivamente existe» y que podía encontrarse en Westlaw y LexisNexis ^[3]. El juez P. Kevin Castel escribió que no hay nada intrínsecamente indebido en usar una herramienta de IA fiable, pero que las normas vigentes otorgan a los abogados una función de control para garantizar la exactitud de sus escritos, e impuso una sanción de $5,000 ^[3].

El problema ha crecido desde entonces. Una base de datos mantenida por el investigador Damien Charlotin recoge resoluciones de tribunales y órganos jurisdiccionales en las que se determinó que una de las partes se había basado en contenido alucinado; había identificado 2,262 casos en su actualización del 2 de noviembre de 2026 ^[4].

La promesa errónea de un chatbot a un cliente

En una resolución de 2024 (Moffatt v. Air Canada, 2024 BCCRT 149), el Civil Resolution Tribunal de Columbia Británica declaró a Air Canada responsable de declaraciones falsas negligentes después de que el chatbot del sitio web de la aerolínea indicara erróneamente a un cliente que podía solicitar con carácter retroactivo una tarifa por duelo, algo que otra página del mismo sitio web contradecía ^[9]. El tribunal rechazó el argumento de que el chatbot debía tratarse como una entidad independiente y afirmó que no importa si la información procede de una página estática o de un chatbot ^[9].

¿Cómo obtener respuestas más precisas de los chatbots de IA?

La guía para desarrolladores de Anthropic sobre sus modelos Claude expone técnicas aplicables a la mayoría de los chatbots ^[7]:

1. Permita la incertidumbre. Indique al modelo que puede decir que no sabe algo o que no tiene suficiente información; Anthropic afirma que esto puede reducir drásticamente la información falsa ^[7].
2. Base las respuestas en citas. En documentos largos, pida al modelo que primero extraiga citas literales y que luego base su respuesta únicamente en ellas ^[7].
3. Exija referencias y retractaciones. Pida una cita o fuente que respalde cada afirmación e indique al modelo que elimine cualquier afirmación que no pueda respaldar ^[7].
4. Limite sus conocimientos. Indíquele que use solo los documentos que usted le proporcione, no sus conocimientos generales ^[7].
5. Compare varias respuestas. Haga la misma pregunta más de una vez; las incoherencias entre los resultados pueden indicar una alucinación ^[7].
6. Pida comprobaciones posteriores. Vuelva a introducir la respuesta y pida al modelo que verifique o amplíe afirmaciones concretas ^[7].

Comprobaciones que debe hacer usted

• Abra cada referencia. Confirme que la fuente existe y que dice lo que afirma la respuesta; el 31% de las respuestas del estudio de la UER presentaba graves problemas de atribución de fuentes ^[5].
• No le pida al chatbot que responda por sí mismo. Los abogados de Mata v. Avianca hicieron exactamente eso y se les dijo que un caso falso era real ^[3].
• Use fuentes primarias para los datos de alto riesgo, como bases de datos jurídicas oficiales, organismos reguladores o profesionales de la medicina. El NIST señala la atención sanitaria como un ámbito en el que los resúmenes confabulados podrían llevar a diagnósticos o tratamientos erróneos ^[1].
• Compruebe la fecha. La información desactualizada figuraba entre los principales errores de precisión que detectó la UER ^[5].

La propia guía de Anthropic subraya que estas técnicas reducen significativamente las alucinaciones, pero no las eliminan, y aconseja validar la información crítica ^[7].

¿Puede la tecnología detectar las alucinaciones automáticamente?

Los investigadores están creando señales de alerta automáticas. Uno de los enfoques, publicado en Nature en 2024 por Sebastian Farquhar, Jannik Kossen, Lorenz Kuhn y Yarin Gal, de la Universidad de Oxford, se denomina entropía semántica ^[8]. Toma varias respuestas a una misma pregunta, a menudo unas cinco, las agrupa por significado y mide lo dispersos que están esos significados; una gran dispersión indica que es probable que el modelo responda de forma incorrecta ^[8].

El método tiene límites. Sus autores afirman que no detectará los casos en los que un modelo fue entrenado con un conjunto de hechos o un estilo de razonamiento erróneos, aquellos en los que el entrenamiento no se traslada a un contexto nuevo, ni el engaño deliberado ^[8]. Un modelo que repite con seguridad la misma respuesta errónea una y otra vez parecerá coherente. Por eso la sencilla técnica de preguntar dos veces, que sigue la misma lógica, es una pista y no una garantía ^[7][8].

La generación aumentada por recuperación, que permite a un modelo consultar documentos, ayuda, pero no es una cura: el estudio de Stanford encontró tasas de alucinación de dos dígitos en herramientas jurídicas basadas en RAG ^[6].

¿Qué técnicas de redacción de instrucciones funcionan mejor?

Ninguna técnica es perfecta, y funcionan mejor combinadas. La tabla siguiente compara los enfoques habituales, a qué apuntan y dónde se quedan cortos. Las técnicas que vinculan las respuestas a documentos que usted proporciona atacan el problema de fondo, ya que de otro modo los modelos se basan en patrones estadísticos ^[1][7], mientras que las comprobaciones de coherencia solo detectan algunos tipos de error ^[8].

¿Cuáles son las ventajas y los límites de usar chatbots de IA para obtener datos?

Ventajas

• El NIST señala que la predicción estadística puede producir resultados precisos y coherentes, no solo errores ^[1].
• Cuando se les proporcionan documentos de referencia, los modelos pueden extraer y citar fragmentos literales, lo que hace que sus respuestas sean verificables ^[7].

Límites

• Los errores son frecuentes en algunas tareas: el 45% de las respuestas sobre noticias tenía un problema importante en el estudio de la UER ^[5].
• Incluso las herramientas jurídicas especializadas alucinaron entre el 17% y el 33% de las veces en las pruebas de Stanford ^[6].
• Los errores pueden venir acompañados de explicaciones y referencias convincentes pero falsas ^[1].
• La responsabilidad sigue siendo del usuario o de la empresa: los tribunales han sancionado a abogados ^[3], y un tribunal declaró a una empresa responsable de las afirmaciones de su chatbot ^[9].

¿Se resolverán algún día las alucinaciones de la IA?

Hasta qué punto pueden reducirse las alucinaciones es una cuestión abierta, pero algunas de las explicaciones anteriores apuntan a causas sobre las que se puede actuar. Si, como sostienen Kalai y sus colegas, las pruebas de referencia premian adivinar, cambiar su forma de puntuar podría animar a los modelos a expresar incertidumbre ^[2]. Los métodos de detección como la entropía semántica pueden señalar algunos errores probables ^[8]. Sin embargo, el NIST describe la confabulación como un resultado natural de la forma en que se diseñan los modelos generativos ^[1], lo que sugiere que se mantendrá cierta tasa de error.

Lo que sigue siendo incierto

• Las tasas de error reales de los modelos actuales. Los estudios publicados prueban versiones y tareas concretas, y los resultados cambian con cada lanzamiento ^[5][6].
• Cómo tratarán los tribunales los casos reiterados. La base de datos de Charlotin ya había registrado 2,262 resoluciones de este tipo a 2 de noviembre de 2026, y cada nueva resolución amplía la jurisprudencia ^[4].
• Si las reformas de las pruebas de referencia se adoptarán de forma generalizada, algo que el artículo de Kalai califica de cambio sociotécnico ^[2].

A 3 de noviembre de 2026, la hipótesis de trabajo más segura es que cualquier chatbot puede equivocarse con tono seguro, y que comprobar la fuente es tarea del usuario.