Alucinações de IA explicadas: por que os chatbots inventam coisas e como obter respostas precisas

O que são alucinações de IA?

Uma alucinação de IA é uma resposta de um chatbot ou de outro sistema de IA generativa que é falsa, inventada ou inconsistente, mas apresentada como se fosse verdadeira. O Instituto Nacional de Padrões e Tecnologia dos EUA (NIST) usa o termo confabulação e o define como um fenômeno em que sistemas de IA generativa geram e apresentam com confiança conteúdo errôneo ou falso ^[1]. O NIST inclui resultados que se desviam do prompt ou contradizem afirmações anteriores do próprio sistema, e observa que eles são chamados coloquialmente de “alucinações” ou “fabricações” ^[1].

Os exemplos vão de processos judiciais inventados com citações falsas, como em uma ação nos EUA em 2023 ^[3], a detalhes alucinados e fatos desatualizados em respostas sobre notícias ^[5]. O NIST alerta que os sistemas também podem produzir raciocínios ou citações confabulados que parecem justificar uma resposta, o que pode levar as pessoas a confiar no resultado mais do que deveriam ^[1].

Em resumo, como evitá-las?

1. Forneça ao chatbot o material de origem e peça que ele responda apenas com base nesse material ^[7].
2. Permita explicitamente que ele diga “não sei” ^[7].
3. Peça citações diretas e referências para cada afirmação e depois abra as fontes você mesmo ^[7].
4. Confira qualquer coisa importante em uma fonte independente e confiável, porque nenhuma técnica elimina o problema por completo ^[7].

Por que os chatbots de IA inventam coisas?

Os grandes modelos de linguagem (LLMs) geram texto prevendo as próximas palavras mais prováveis. O NIST explica que as confabulações são um resultado natural desse projeto: os modelos produzem resultados que se aproximam da distribuição estatística de seus dados de treinamento, que podem ser precisos, mas também factualmente errados ou internamente inconsistentes ^[1]. O NIST diz que o problema é especialmente relevante em respostas abertas e longas e em perguntas que exigem conhecimento especializado ^[1].

Por que os modelos não dizem simplesmente “não sei”?

Um artigo de 2025 de Adam Tauman Kalai e colegas, três deles na OpenAI e um na Georgia Tech, argumenta que as alucinações não precisam ser misteriosas: elas se originam como erros de classificação binária ^[2]. Se afirmações falsas não podem ser distinguidas dos fatos, as pressões estatísticas durante o treinamento as produzem naturalmente ^[2]. Os autores acrescentam que as alucinações persistem porque a maioria dos benchmarks pontua as respostas de um jeito que recompensa um chute confiante em vez de um “não sei” honesto, de modo que os modelos são, nas palavras deles, otimizados para se sair bem em provas ^[2]. A solução que propõem é mudar a forma de pontuação dos benchmarks mais usados ^[2].

Por que eles parecem tão seguros?

Uma redação fluente e confiante faz parte do que os modelos aprendem a produzir. O NIST observa que os riscos surgem quando os usuários acreditam em conteúdo falso, muitas vezes por causa do tom confiante da resposta ^[1]. Confiança no tom, portanto, não é prova de precisão.

Com que frequência os chatbots de IA alucinam?

Não existe uma taxa única de alucinação. Ela depende do modelo, da tarefa, do idioma e de como os erros são contados. Estudos independentes dão uma ideia da escala em tarefas específicas.

Perguntas sobre notícias

Um estudo coordenado pela União Europeia de Radiodifusão (EBU) e liderado pela BBC reuniu 22 organizações de mídia de serviço público em 18 países, trabalhando em 14 idiomas ^[5]. Jornalistas avaliaram mais de 3.000 respostas do ChatGPT, do Copilot, do Gemini e do Perplexity ^[5]. Eles constataram que 45% das respostas tinham pelo menos um problema significativo, 31% tinham problemas graves de atribuição de fontes e 20% continham grandes problemas de precisão, incluindo detalhes alucinados e informações desatualizadas ^[5]. O Gemini teve problemas significativos em 76% de suas respostas ^[5]. A EBU diz que essas distorções foram consistentes entre idiomas e territórios, o que é importante para quem usa IA em idiomas que não o inglês ^[5].

Ferramentas jurídicas profissionais

Pesquisadores de Stanford testaram ferramentas de IA para pesquisa jurídica da LexisNexis e da Thomson Reuters e constataram que cada uma alucinava entre 17% e 33% das vezes ^[6]. Essas ferramentas usam geração aumentada por recuperação (RAG), que busca documentos antes de responder, e os autores concluíram que as alegações dos fornecedores de terem eliminado as alucinações eram exageradas ^[6].

Esses números descrevem sistemas específicos em datas específicas; versões mais novas podem ter desempenho melhor ou pior. Eles mostram que até ferramentas especializadas e baseadas em documentos ainda cometem erros ^[6].

O que acontece quando as pessoas confiam em alucinações de IA?

Casos falsos em um tribunal dos EUA

No caso Mata v. Avianca, um juiz federal de Nova York puniu dois advogados e seu escritório em 22 de junho de 2023, depois que eles apresentaram decisões judiciais inexistentes, com citações e referências falsas criadas pelo ChatGPT ^[3]. Os advogados admitiram depois que seis das decisões citadas haviam sido geradas pelo ChatGPT e não existiam ^[3]. Quando um dos advogados perguntou ao ChatGPT se um caso era real, ele respondeu que o caso “de fato existe” e podia ser encontrado no Westlaw e na LexisNexis ^[3]. O juiz P. Kevin Castel escreveu que não há nada de intrinsecamente impróprio em usar uma ferramenta de IA confiável, mas que as regras existentes atribuem aos advogados um papel de guardiões para garantir a precisão de suas petições, e aplicou uma multa de US$ 5.000 ^[3].

O problema cresceu desde então. Um banco de dados mantido pelo pesquisador Damien Charlotin lista decisões de tribunais e órgãos julgadores em que se constatou que uma das partes se apoiou em conteúdo alucinado; ele havia identificado 2.262 casos em sua atualização de 2 de novembro de 2026 ^[4].

A promessa errada de um chatbot a um cliente

Em uma decisão de 2024 (Moffatt v. Air Canada, 2024 BCCRT 149), o Civil Resolution Tribunal da Colúmbia Britânica responsabilizou a Air Canada por declaração enganosa negligente, depois que o chatbot do site da companhia aérea sugeriu erroneamente que um cliente poderia solicitar uma tarifa de luto de forma retroativa, o que outra página do próprio site contradizia ^[9]. O tribunal rejeitou o argumento de que o chatbot deveria ser tratado como uma entidade separada, afirmando que não faz diferença se a informação vem de uma página estática ou de um chatbot ^[9].

Como obter respostas mais precisas dos chatbots de IA?

O guia para desenvolvedores da Anthropic para seus modelos Claude apresenta técnicas que valem para a maioria dos chatbots ^[7]:

1. Permita a incerteza. Diga ao modelo que ele pode afirmar que não sabe ou que não tem informações suficientes; a Anthropic diz que isso pode reduzir drasticamente as informações falsas ^[7].
2. Baseie as respostas em citações. Em documentos longos, peça ao modelo que primeiro extraia citações literais e depois baseie a resposta apenas nelas ^[7].
3. Exija citações e retratações. Peça uma citação ou fonte que sustente cada afirmação e diga ao modelo para remover qualquer afirmação que ele não consiga sustentar ^[7].
4. Restrinja o conhecimento dele. Instrua-o a usar apenas os documentos que você fornecer, e não seu conhecimento geral ^[7].
5. Compare várias respostas. Faça a mesma pergunta mais de uma vez; inconsistências entre os resultados podem indicar uma alucinação ^[7].
6. Faça verificações de acompanhamento. Devolva a resposta ao modelo e peça que ele verifique ou detalhe afirmações específicas ^[7].

Verificações que você mesmo deve fazer

• Abra todas as citações. Confirme que a fonte existe e diz o que a resposta afirma; 31% das respostas no estudo da EBU tinham problemas graves de atribuição de fontes ^[5].
• Não peça ao chatbot que dê garantias sobre si mesmo. Os advogados do caso Mata v. Avianca fizeram exatamente isso e ouviram que um caso falso era real ^[3].
• Use fontes primárias para fatos de alto risco, como bases de dados jurídicas oficiais, órgãos reguladores ou profissionais de saúde. O NIST aponta a saúde como uma área em que resumos confabulados podem levar a diagnósticos ou tratamentos errados ^[1].
• Confira a data. Informações desatualizadas estavam entre os grandes problemas de precisão encontrados pela EBU ^[5].

O próprio guia da Anthropic ressalta que essas técnicas reduzem significativamente as alucinações, mas não as eliminam, e recomenda validar as informações críticas ^[7].

A tecnologia consegue detectar alucinações automaticamente?

Os pesquisadores estão criando sinais de alerta automáticos. Uma abordagem, publicada na Nature em 2024 por Sebastian Farquhar, Jannik Kossen, Lorenz Kuhn e Yarin Gal, da Universidade de Oxford, chama-se entropia semântica ^[8]. Ela gera várias respostas à mesma pergunta, muitas vezes cerca de cinco, agrupa-as por significado e mede o quanto esses significados estão dispersos; uma dispersão alta sugere que o modelo provavelmente vai responder errado ^[8].

O método tem limites. Seus autores dizem que ele não detecta casos em que um modelo foi treinado com um conjunto errado de fatos ou um estilo errado de raciocínio, casos em que o treinamento não se transfere para um novo contexto, nem o engano deliberado ^[8]. Um modelo que repete com confiança a mesma resposta errada todas as vezes vai parecer consistente. É por isso que a técnica simples de perguntar duas vezes, que segue a mesma lógica, é uma pista, e não uma garantia ^[7][8].

A geração aumentada por recuperação, que permite a um modelo consultar documentos, ajuda, mas não é uma cura: o estudo de Stanford encontrou taxas de alucinação de dois dígitos em ferramentas jurídicas baseadas em RAG ^[6].

Quais técnicas de prompt funcionam melhor?

Nenhuma técnica é perfeita, e elas funcionam melhor combinadas. A tabela abaixo compara abordagens comuns, o que cada uma busca resolver e onde deixa a desejar. As técnicas que vinculam as respostas a documentos fornecidos por você atacam o problema de raiz, já que, de outra forma, os modelos dependem de padrões estatísticos ^[1][7], enquanto as verificações de consistência detectam apenas alguns tipos de erro ^[8].

Quais são os benefícios e os limites de usar chatbots de IA para buscar fatos?

Benefícios

• O NIST observa que a previsão estatística pode produzir resultados factualmente precisos e consistentes, e não apenas erros ^[1].
• Quando recebem documentos de origem, os modelos conseguem extrair e citar trechos exatos, o que torna suas respostas auditáveis ^[7].

Limites

• Os erros são comuns em algumas tarefas: 45% das respostas sobre notícias tinham um problema significativo no estudo da EBU ^[5].
• Até ferramentas jurídicas especializadas alucinaram entre 17% e 33% das vezes nos testes de Stanford ^[6].
• Os erros podem vir acompanhados de explicações e citações convincentes, mas falsas ^[1].
• A responsabilidade continua sendo do usuário ou da empresa: tribunais puniram advogados ^[3], e um tribunal administrativo responsabilizou uma empresa pelas declarações de seu chatbot ^[9].

As alucinações de IA um dia serão resolvidas?

Até que ponto as alucinações podem ser reduzidas é uma questão em aberto, mas algumas das explicações acima apontam causas sobre as quais é possível agir. Se, como argumentam Kalai e colegas, os benchmarks recompensam o chute, mudar a forma de pontuação poderia incentivar os modelos a expressar incerteza ^[2]. Métodos de detecção como a entropia semântica podem sinalizar alguns erros prováveis ^[8]. O NIST, porém, descreve a confabulação como um resultado natural da forma como os modelos generativos são projetados ^[1], o que sugere que alguma taxa de erro vai permanecer.

O que ainda é incerto

• As taxas reais de erro dos modelos atuais. Os estudos publicados testam versões e tarefas específicas, e os resultados mudam a cada lançamento ^[5][6].
• Como os tribunais vão tratar casos repetidos. O banco de dados de Charlotin já havia registrado 2.262 decisões desse tipo até 2 de novembro de 2026, e cada nova decisão amplia a jurisprudência ^[4].
• Se as reformas nos benchmarks serão amplamente adotadas, o que o artigo de Kalai chama de mudança sociotécnica ^[2].

Em 3 de novembro de 2026, a premissa de trabalho mais segura é que qualquer chatbot pode errar com voz confiante e que conferir a fonte é tarefa do usuário.