KI-Halluzinationen erklärt: Warum Chatbots Dinge erfinden und wie Sie genaue Antworten erhalten

Was sind KI-Halluzinationen?

Eine KI-Halluzination ist eine Antwort eines Chatbots oder eines anderen generativen KI-Systems, die falsch, erfunden oder widersprüchlich ist, aber so vorgetragen wird, als wäre sie wahr. Das US-amerikanische National Institute of Standards and Technology (NIST) verwendet den Begriff Konfabulation und definiert ihn als Phänomen, bei dem generative KI-Systeme fehlerhafte oder falsche Inhalte erzeugen und selbstsicher präsentieren ^[1]. Das NIST zählt dazu auch Ausgaben, die vom Prompt abweichen oder früheren Aussagen des Systems selbst widersprechen, und merkt an, dass diese umgangssprachlich „Halluzinationen“ oder „Erfindungen“ genannt werden ^[1].

Die Beispiele reichen von erfundenen Gerichtsfällen mit gefälschten Zitaten, wie in einem US-Rechtsstreit von 2023 ^[3], bis zu halluzinierten Details und veralteten Fakten in Nachrichtenantworten ^[5]. Das NIST warnt, dass Systeme auch konfabulierte Begründungen oder Quellenangaben erzeugen können, die eine Antwort scheinbar rechtfertigen, was Menschen dazu verleiten kann, der Ausgabe mehr zu vertrauen, als angebracht ist ^[1].

Wie vermeidet man sie, kurz gesagt?

1. Geben Sie dem Chatbot das Quellenmaterial und bitten Sie ihn, nur auf dieser Grundlage zu antworten ^[7].
2. Erlauben Sie ihm ausdrücklich, „Ich weiß es nicht“ zu sagen ^[7].
3. Verlangen Sie für jede Aussage wörtliche Zitate und Quellenangaben und öffnen Sie die Quellen dann selbst ^[7].
4. Prüfen Sie alles Wichtige anhand einer unabhängigen, maßgeblichen Quelle, denn keine Technik beseitigt das Problem vollständig ^[7].

Warum erfinden KI-Chatbots Dinge?

Große Sprachmodelle (LLMs) erzeugen Text, indem sie wahrscheinliche nächste Wörter vorhersagen. Das NIST erklärt, dass Konfabulationen eine natürliche Folge dieser Bauweise sind: Modelle erzeugen Ausgaben, die der statistischen Verteilung ihrer Trainingsdaten nahekommen; diese können zutreffend, aber auch sachlich falsch oder in sich widersprüchlich sein ^[1]. Laut NIST ist das Problem besonders bei offenen, ausführlichen Antworten und bei Fragen relevant, die Fachwissen erfordern ^[1].

Warum sagen Modelle nicht einfach „Ich weiß es nicht“?

Ein Artikel von Adam Tauman Kalai und Kollegen aus dem Jahr 2025, drei von ihnen bei OpenAI und einer bei Georgia Tech, argumentiert, dass Halluzinationen nichts Rätselhaftes sein müssen: Sie entstehen als Fehler bei binärer Klassifikation ^[2]. Wenn sich falsche Aussagen nicht von Fakten unterscheiden lassen, bringen statistische Zwänge im Training sie ganz natürlich hervor ^[2]. Die Autoren ergänzen, dass Halluzinationen fortbestehen, weil die meisten Benchmarks Antworten so bewerten, dass ein selbstsicheres Raten mehr einbringt als ein ehrliches „Ich weiß es nicht“; Modelle seien daher, wie sie es formulieren, darauf optimiert, gute Prüflinge zu sein ^[2]. Als Abhilfe schlagen sie vor, die Bewertung weit verbreiteter Benchmarks zu ändern ^[2].

Warum klingen sie so überzeugt?

Flüssige, selbstsichere Formulierungen gehören zu dem, was Modelle zu erzeugen lernen. Das NIST weist darauf hin, dass Risiken entstehen, wenn Nutzer falsche Inhalte glauben, oft gerade wegen der selbstsicheren Art der Antwort ^[1]. Ein überzeugter Tonfall ist daher kein Beleg für Richtigkeit.

Wie oft halluzinieren KI-Chatbots?

Eine einheitliche Halluzinationsrate gibt es nicht. Sie hängt vom Modell, der Aufgabe, der Sprache und davon ab, wie Fehler gezählt werden. Unabhängige Studien vermitteln für bestimmte Aufgaben eine Vorstellung von der Größenordnung.

Fragen zu Nachrichten

An einer von der Europäischen Rundfunkunion (EBU) koordinierten und von der BBC geleiteten Studie nahmen 22 öffentlich-rechtliche Medienhäuser aus 18 Ländern in 14 Sprachen teil ^[5]. Journalistinnen und Journalisten bewerteten mehr als 3.000 Antworten von ChatGPT, Copilot, Gemini und Perplexity ^[5]. Sie stellten fest, dass 45% der Antworten mindestens ein erhebliches Problem aufwiesen, 31% gravierende Mängel bei den Quellen hatten und 20% schwere Genauigkeitsfehler enthielten, darunter halluzinierte Details und veraltete Informationen ^[5]. Gemini wies bei 76% seiner Antworten erhebliche Probleme auf ^[5]. Laut EBU waren diese Verzerrungen über Sprachen und Regionen hinweg gleichbleibend, was für alle wichtig ist, die KI in anderen Sprachen als Englisch nutzen ^[5].

Professionelle Rechtswerkzeuge

Forschende in Stanford testeten KI-Werkzeuge für juristische Recherche von LexisNexis und Thomson Reuters und stellten fest, dass jedes davon in 17% bis 33% der Fälle halluzinierte ^[6]. Diese Werkzeuge nutzen Retrieval-Augmented Generation (RAG), bei der vor der Antwort Dokumente abgerufen werden, und die Autoren kamen zu dem Schluss, dass die Behauptungen der Anbieter, Halluzinationen beseitigt zu haben, übertrieben waren ^[6].

Diese Zahlen beschreiben bestimmte Systeme zu bestimmten Zeitpunkten; neuere Versionen können besser oder schlechter abschneiden. Sie zeigen, dass selbst spezialisierte, auf Dokumente gestützte Werkzeuge weiterhin Fehler machen ^[6].

Was passiert, wenn Menschen KI-Halluzinationen vertrauen?

Erfundene Fälle vor einem US-Gericht

Im Fall Mata v. Avianca verhängte ein Bundesrichter in New York am 22. Juni 2023 Sanktionen gegen zwei Anwälte und ihre Kanzlei, nachdem sie nicht existierende Gerichtsentscheidungen mit gefälschten Zitaten und Fundstellen eingereicht hatten, die ChatGPT erzeugt hatte ^[3]. Die Anwälte räumten später ein, dass sechs der zitierten Entscheidungen von ChatGPT erzeugt worden waren und nicht existierten ^[3]. Als einer der Anwälte ChatGPT fragte, ob ein Fall echt sei, antwortete es, der Fall „existiert tatsächlich“ und sei bei Westlaw und LexisNexis zu finden ^[3]. Richter P. Kevin Castel schrieb, es sei grundsätzlich nichts Unzulässiges daran, ein zuverlässiges KI-Werkzeug zu nutzen, doch die geltenden Regeln wiesen Anwälten eine Kontrollfunktion zu, um die Richtigkeit ihrer Schriftsätze sicherzustellen, und verhängte eine Strafe von $5.000 ^[3].

Das Problem ist seitdem gewachsen. Eine vom Forscher Damien Charlotin gepflegte Datenbank listet Entscheidungen von Gerichten und Schiedsstellen auf, in denen festgestellt wurde, dass sich eine Partei auf halluzinierte Inhalte gestützt hatte; mit der Aktualisierung vom 2. November 2026 umfasste sie 2.262 Fälle ^[4].

Ein falsches Versprechen eines Chatbots an einen Kunden

In einer Entscheidung von 2024 (Moffatt v. Air Canada, 2024 BCCRT 149) erklärte das Civil Resolution Tribunal der kanadischen Provinz British Columbia Air Canada wegen fahrlässiger Falschdarstellung für haftbar, nachdem der Chatbot auf der Website der Fluggesellschaft fälschlich nahegelegt hatte, ein Kunde könne einen Trauerfalltarif rückwirkend beantragen, was einer anderen Seite der Website widersprach ^[9]. Das Tribunal wies das Argument zurück, der Chatbot sei als eigenständige Einheit zu behandeln, und stellte fest, es mache keinen Unterschied, ob die Information von einer statischen Seite oder einem Chatbot stamme ^[9].

Wie erhalten Sie genauere Antworten von KI-Chatbots?

Der Entwicklerleitfaden von Anthropic für seine Claude-Modelle beschreibt Techniken, die für die meisten Chatbots gelten ^[7]:

1. Unsicherheit zulassen. Sagen Sie dem Modell, dass es angeben darf, etwas nicht zu wissen oder nicht genug Informationen zu haben; laut Anthropic kann das falsche Informationen drastisch reduzieren ^[7].
2. Antworten auf Zitate stützen. Bitten Sie das Modell bei langen Dokumenten, zuerst wörtliche Zitate herauszuziehen und seine Antwort dann ausschließlich darauf zu stützen ^[7].
3. Belege und Rücknahmen verlangen. Fordern Sie für jede Aussage ein stützendes Zitat oder eine Quelle und weisen Sie das Modell an, jede Aussage zu streichen, die es nicht belegen kann ^[7].
4. Das Wissen einschränken. Weisen Sie es an, nur die von Ihnen bereitgestellten Dokumente zu verwenden und nicht sein allgemeines Wissen ^[7].
5. Mehrere Antworten vergleichen. Stellen Sie dieselbe Frage mehrmals; Widersprüche zwischen den Ausgaben können auf eine Halluzination hinweisen ^[7].
6. Nachprüfen lassen. Geben Sie die Antwort zurück und bitten Sie das Modell, bestimmte Aussagen zu überprüfen oder zu vertiefen ^[7].

Prüfungen, die Sie selbst vornehmen sollten

• Öffnen Sie jede Quellenangabe. Vergewissern Sie sich, dass die Quelle existiert und das sagt, was die Antwort behauptet; 31% der Antworten in der EBU-Studie hatten gravierende Mängel bei den Quellen ^[5].
• Lassen Sie den Chatbot nicht für sich selbst bürgen. Die Anwälte im Fall Mata v. Avianca taten genau das und bekamen gesagt, ein erfundener Fall sei echt ^[3].
• Nutzen Sie bei folgenreichen Fakten Primärquellen, etwa amtliche Rechtsdatenbanken, Aufsichtsbehörden oder medizinisches Fachpersonal. Das NIST nennt das Gesundheitswesen als Bereich, in dem konfabulierte Zusammenfassungen zu falschen Diagnosen oder Behandlungen führen könnten ^[1].
• Prüfen Sie das Datum. Veraltete Informationen gehörten zu den schweren Genauigkeitsfehlern, die die EBU feststellte ^[5].

Der Leitfaden von Anthropic selbst betont, dass diese Techniken Halluzinationen deutlich verringern, aber nicht beseitigen, und rät, entscheidende Informationen zu validieren ^[7].

Kann Technik Halluzinationen automatisch erkennen?

Forschende entwickeln automatische Warnsignale. Ein Ansatz, 2024 in Nature von Sebastian Farquhar, Jannik Kossen, Lorenz Kuhn und Yarin Gal von der University of Oxford veröffentlicht, heißt semantische Entropie ^[8]. Dabei werden mehrere Antworten auf dieselbe Frage erzeugt, oft etwa fünf, nach ihrer Bedeutung gruppiert, und es wird gemessen, wie stark diese Bedeutungen streuen; eine hohe Streuung deutet darauf hin, dass das Modell wahrscheinlich falsch antwortet ^[8].

Die Methode hat Grenzen. Die Autoren sagen, sie erkenne keine Fälle, in denen ein Modell auf einen falschen Faktenbestand oder eine falsche Art des Schlussfolgerns trainiert wurde, keine Fälle, in denen das Training nicht auf einen neuen Kontext übertragbar ist, und keine bewusste Täuschung ^[8]. Ein Modell, das jedes Mal selbstsicher dieselbe falsche Antwort wiederholt, wirkt konsistent. Deshalb ist auch die einfache Nutzertechnik, zweimal zu fragen, die derselben Logik folgt, ein Hinweis und keine Garantie ^[7][8].

Retrieval-Augmented Generation, mit der ein Modell Dokumente nachschlagen kann, hilft, ist aber kein Allheilmittel: Die Stanford-Studie fand bei RAG-basierten Rechtswerkzeugen zweistellige Halluzinationsraten ^[6].

Welche Prompt-Techniken wirken am besten?

Keine Technik ist perfekt, und am besten wirken sie in Kombination. Die Tabelle unten vergleicht gängige Ansätze, ihr jeweiliges Ziel und ihre Schwächen. Techniken, die Antworten an von Ihnen bereitgestellte Dokumente binden, setzen am Grundproblem an, dass Modelle sich sonst auf statistische Muster stützen ^[1][7], während Konsistenzprüfungen nur manche Fehlerarten erkennen ^[8].

Welche Vorteile und Grenzen hat die Nutzung von KI-Chatbots für Fakten?

Vorteile

• Das NIST hält fest, dass statistische Vorhersage auch sachlich zutreffende und konsistente Ausgaben hervorbringen kann, nicht nur Fehler ^[1].
• Wenn Modelle Quelldokumente erhalten, können sie exakte Zitate herausziehen und angeben, was ihre Antworten überprüfbar macht ^[7].

Grenzen

• Bei manchen Aufgaben sind Fehler häufig: In der EBU-Studie wiesen 45% der Nachrichtenantworten ein erhebliches Problem auf ^[5].
• Selbst spezialisierte Rechtswerkzeuge halluzinierten in den Stanford-Tests in 17% bis 33% der Fälle ^[6].
• Fehler können mit überzeugenden, aber falschen Erklärungen und Quellenangaben einhergehen ^[1].
• Die Verantwortung bleibt beim Nutzer oder Unternehmen: Gerichte haben Anwälte sanktioniert ^[3], und ein Tribunal hat ein Unternehmen für die Aussagen seines Chatbots haftbar gemacht ^[9].

Wird das Problem der KI-Halluzinationen jemals gelöst?

Wie weit sich Halluzinationen verringern lassen, ist eine offene Frage, doch einige der oben genannten Erklärungen verweisen auf Ursachen, an denen sich arbeiten lässt. Wenn Benchmarks, wie Kalai und Kollegen argumentieren, Raten belohnen, könnte eine geänderte Bewertung Modelle dazu bringen, Unsicherheit auszudrücken ^[2]. Erkennungsmethoden wie die semantische Entropie können manche wahrscheinlichen Fehler markieren ^[8]. Das NIST beschreibt Konfabulation jedoch als natürliche Folge der Bauweise generativer Modelle ^[1], was nahelegt, dass eine gewisse Fehlerquote bleiben wird.

Was noch ungewiss ist

• Tatsächliche Fehlerquoten aktueller Modelle. Veröffentlichte Studien testen bestimmte Versionen und Aufgaben, und die Ergebnisse ändern sich mit jeder Veröffentlichung ^[5][6].
• Wie Gerichte mit wiederholten Fällen umgehen werden. Die Datenbank von Charlotin hatte bis zum 2. November 2026 bereits 2.262 solcher Entscheidungen erfasst, und jede neue erweitert die Rechtsprechung ^[4].
• Ob Reformen der Benchmarks breit übernommen werden, was der Artikel von Kalai als soziotechnischen Wandel bezeichnet ^[2].

Stand 3. November 2026 lautet die sicherste Arbeitsannahme: Jeder Chatbot kann sich mit selbstsicherer Stimme irren, und die Quelle zu prüfen ist Aufgabe des Nutzers.