Eine KI-Halluzination ist eine Antwort, die überzeugend klingt, aber falsch oder frei erfunden ist: ein Zitat, das nie gefallen ist, ein Urteil, das es nicht gibt, eine Zahl ohne Herkunft. Sie entsteht, weil Sprachmodelle das wahrscheinlichste nächste Wort vorhersagen und im Training fürs Raten belohnt werden, wie OpenAI im September 2025 begründet hat. Selbst beim Zusammenfassen eines vorgegebenen Textes erfinden aktuelle Modelle in 1,8 bis 24,2 Prozent der Fälle etwas dazu (Vectara, Oktober 2026). Ganz verhindern lässt sich das nicht, erkennen und abfangen schon: mit Quellenpflicht, Gegenprüfung und einer Person, die freigibt.
Was ist eine KI-Halluzination?
Eine Halluzination ist eine Aussage der KI, die weder durch Fakten noch durch die Quelle gedeckt ist, die du ihr gegeben hast. Das Wort hat sich so schnell durchgesetzt, dass das Cambridge Dictionary „hallucinate“ 2023 zum Wort des Jahres gewählt hat, mit der neuen Bedeutung: Eine KI erzeugt falsche Informationen.
Ich mag Leute, die KI einfach benutzen, statt seit zwei Jahren über die perfekte Richtlinie zu diskutieren. Und ein paar von ihnen haben diese Woche eine KI-Zusammenfassung weitergeleitet, deren Original sie nie aufgemacht haben. Ist okay. Ich kenne den Reflex: Die Antwort klingt so sicher, dass Nachprüfen sich fast unhöflich anfühlt. Genau von diesem Reflex lebt eine Halluzination.
Fachleute unterscheiden zwei Arten. Bei der ersten widerspricht die Antwort der Welt: Die KI nennt ein falsches Gründungsjahr oder erfindet eine Studie. Bei der zweiten widerspricht sie der Vorlage, die du ihr gegeben hast: Sie fasst deinen Vertrag zusammen und ergänzt eine Klausel, die gar nicht drinsteht. Die zweite Art finde ich im Büroalltag die tückischere. Der Zusammenfassung eines Dokuments, das du selbst hochgeladen hast, glaubst du einfach eher. Du hast die Datei ja selbst ausgesucht, was soll da schiefgehen?
Nicht jeder KI-Fehler ist eine Halluzination. Verrechnet sich die KI oder versteht sie deine Frage falsch, ist das ein gewöhnlicher Fehler. Von Halluzination spricht man, wenn sie Fakten, Quellen oder Inhalte erfindet und dabei klingt, als wüsste sie es genau. Vier Formen begegnen dir immer wieder:
- Erfundene Quellen: Studien, Bücher, Gerichtsurteile oder Links, die es nicht gibt oder die etwas anderes sagen.
- Falsche Details: Datum, Betrag, Paragraf oder Name sind knapp daneben, der Rest stimmt.
- Erfundene Zitate: Ein Satz wird einer echten Person in den Mund gelegt.
- Ergänzungen beim Zusammenfassen: Die Zusammenfassung enthält Aussagen, die im Original fehlen.
Der Begriff ist umstritten, weil er die Maschine vermenschlicht. Die KI sieht nichts und lügt auch nicht mit Absicht. Sie produziert plausiblen Text, und plausibel und wahr sehen sich leider zum Verwechseln ähnlich.
Warum halluziniert KI?
KI halluziniert, weil ein Sprachmodell im Training lernt, welches Wort in einem Text wahrscheinlich als Nächstes kommt. Eine Datenbank mit geprüften Fakten speichert es nicht. Was in den Trainingsdaten tausendfach gleich vorkommt, etwa Rechtschreibung oder die Hauptstadt von Frankreich, lernt es zuverlässig. Seltene Einzelfakten lassen sich aus Mustern nicht ableiten. OpenAI nennt als Beispiel den Geburtstag einer wenig bekannten Person: Das Modell kennt das Muster „ein Datum“, aber nicht das Datum. Mir geht es mit Geburtstagen entfernter Bekannter ehrlich gesagt ähnlich. Ich rate dann nur nicht mit fester Stimme.
Der zweite Grund liegt in der Bewertung. Die gängigen Tests zählen nur richtige Antworten. Wer bei einer Wissensfrage rät, hat eine kleine Chance auf einen Punkt, wer „weiß ich nicht“ sagt, bekommt sicher null. So werden Modelle zu guten Prüflingen erzogen, die lieber raten als schweigen. Das beschreiben die OpenAI-Forscher in ihrem Aufsatz vom 4. September 2025. Die Tabelle zeigt den Effekt an zwei OpenAI-Modellen im Wissenstest SimpleQA.
| Modell | Antwortet nicht | Richtig | Falsch |
|---|---|---|---|
| gpt-5-thinking-mini | 52 % | 22 % | 26 % |
| o4-mini | 1 % | 24 % | 75 % |
Das ältere Modell o4-mini liegt bei den richtigen Antworten sogar leicht vorn. Es rät aber fast immer und liegt dafür in drei von vier Fällen falsch. Das neuere sagt in jeder zweiten Frage, dass es die Antwort nicht weiß, und macht nur ein Drittel so viele Fehler (Zahlen aus dem Beitrag von OpenAI). Für eine Bestenliste sieht das erste Modell besser aus. Für deine Arbeit ist das zweite das brauchbarere.
Jetzt die Gegenposition, und sie ist stark: Die Modelle werden besser. Das beste Modell im Vectara-Vergleich erfindet beim Zusammenfassen nur noch in 1,8 Prozent der Fälle etwas. Wer heute sagt, man könne KI gar nichts glauben, redet vermutlich über den Stand von 2023.
Stimmt. Nur löst Nachdenken das Problem nicht von allein. Modelle mit Denkphase, über die ich im Artikel Was ist KI Thinking? geschrieben habe, rechnen gründlicher, behaupten aber auch mehr. Im Test PersonQA mit Fragen zu Personen halluzinierte OpenAIs o3 in 33 Prozent der Antworten, der Vorgänger o1 in 16 Prozent (Systemkarte von OpenAI, April 2025). Ich hätte das Gegenteil erwartet. Besser denken und weniger erfinden sind offenbar zwei verschiedene Fähigkeiten.
Für mich folgt daraus eine einfache Haltung: Ein Werkzeug, das seine Grenzen nennt, ist mehr wert als eins, das immer eine Antwort hat. Als ich mit Claude an meiner Website gearbeitet habe, waren meine Fotos in der Testumgebung gesperrt, die Vorschau zeigte bunte Platzhalter. Claude hat das offen dazugeschrieben und die Leistungsmessung nur als ungefähr ausgewiesen. Klingt unspektakulär. Mir ist so eine Antwort lieber als jede schöne Zahl, die nicht stimmt. Im Unternehmen heißt das: Ein „weiß ich nicht“ der KI und ein „habe ich nicht geprüft“ im Team sind wertvolle Informationen. Wer sie bestraft, bekommt geratene Antworten, von Menschen übrigens genauso wie von Maschinen.
Wie häufig halluziniert KI?
Eine einzige Quote gibt es nicht. Wie oft eine KI erfindet, hängt an der Aufgabe, am Modell und daran, ob sie eine Quelle vor sich hat. Drei Messungen zeigen die Spanne, und sie passen nicht sauber zusammen. Ehrlich gesagt ist mir das lieber als eine runde Zahl, die für alles gelten soll.
Nachrichten: Die größte Studie dazu stammt von der Europäischen Rundfunkunion und der BBC. Journalisten aus 22 öffentlich-rechtlichen Sendern haben über 3.000 Antworten von vier KI-Assistenten auf Nachrichtenfragen geprüft.
Fast jede zweite KI-Antwort zu Nachrichten hatte ein ernstes Problem
| Befund | Anteil der Antworten |
|---|---|
| Ernstes Problem | 45 % |
| Quellen fehlerhaft | 31 % |
| Grobe Faktenfehler | 20 % |
In 20 Prozent der Antworten steckten grobe Fehler, darunter erfundene Details und veraltete Angaben. Gemini lag mit ernsten Problemen in 76 Prozent der Antworten deutlich hinter den anderen, vor allem wegen der Quellen. Die Studie ist vom Oktober 2025, die Modelle sind seitdem besser geworden. Sie zeigt trotzdem, warum eine Quellenangabe allein noch kein Beleg ist. Ein Link unter einer Antwort beruhigt. Geöffnet hat ihn damit noch niemand.
Zusammenfassen: Das Unternehmen Vectara lässt Modelle kurze Dokumente zusammenfassen und prüft, ob jede Aussage in der Vorlage steht. In der Liste vom 22. Oktober 2026 liegen 48 von 104 Modellen bei 10 Prozent oder mehr.
Selbst mit Vorlage erfinden Modelle etwas dazu
| Modell | Halluzinationsrate |
|---|---|
| Bestes Modell | 1,8 % |
| GPT-6 Sol | 6,5 % |
| Claude Opus 5.5 | 9,9 % |
| Gemini 4 Argon | 12,1 % |
Fast die Hälfte der Modelle erfindet also in mindestens jeder zehnten Zusammenfassung etwas dazu. Lässt du dir mit so einem Modell jeden Arbeitstag ein Protokoll schreiben, steht ungefähr alle zwei Wochen etwas drin, das in der Vorlage nie vorkam.
Fachwissen mit Quellen: Forschende der Universität Stanford haben juristische KI-Werkzeuge getestet, die ausdrücklich auf geprüften Datenbanken aufbauen. Lexis+ AI lag in mehr als 17 Prozent der Fälle falsch, Westlaws KI-Recherche in mehr als 34 Prozent (Stanford HAI, Mai 2024). Mit Quellen wird es also besser, fehlerfrei wird es nicht.
Bekannte Fälle: Was erfundene Antworten gekostet haben
Wie teuer eine Halluzination wird, hängt davon ab, wer sie ungeprüft weitergibt. Der Jurist Damien Charlotin sammelt Gerichtsverfahren, in denen KI-Erfindungen aufgefallen sind. Seine Datenbank zählt am 16. November 2026 weltweit 2.306 Fälle, 11 davon aus Deutschland. Fünf Fälle zeigen, wo es Unternehmen und Profis trifft.
| Wann | Wer | Was passiert ist | Folge |
|---|---|---|---|
| Februar 2023 | Werbung für den Chatbot Bard nennt eine falsche Entdeckung des Webb-Teleskops | Alphabet verliert an einem Tag rund 100 Milliarden Dollar Börsenwert | |
| Juni 2023 | Anwälte in New York | Schriftsatz zitiert sechs erfundene Urteile aus ChatGPT | 5.000 Dollar Strafe für Anwälte und Kanzlei |
| Februar 2024 | Air Canada | Chatbot sagt, der günstigere Trauerfall-Tarif lasse sich nachträglich beantragen, die Regeln der Airline erlauben das nicht | Airline haftet für ihren Chatbot und zahlt Schadenersatz |
| Juli 2025 | Anwalt vor dem AG Köln | Schriftsatz mit erfundenen Fundstellen in einer Familiensache | Deutliche Ermahnung im Beschluss |
| Oktober 2025 | Deloitte Australien | Gutachten für 440.000 australische Dollar mit erfundenem Zitat und nicht existierenden Studien | Letzte Rate zurückgezahlt |
Quellen: NPR zu Google, Legal Dive zum Fall Mata gegen Avianca, WeirFoulds zu Air Canada, beck-aktuell zum AG Köln und AP zu Deloitte.
Zwei Fälle finde ich für Unternehmen besonders lehrreich. Air Canada hatte argumentiert, der Chatbot sei für seine Aussagen selbst verantwortlich. Das Civil Resolution Tribunal in British Columbia, zuständig für kleinere Zivilstreitigkeiten, hat das im Februar 2024 abgelehnt: Der Chatbot ist Teil der Website, also haftet die Airline. Deloitte hat nicht bestätigt, dass die KI die Fehler verursacht hat, in der korrigierten Fassung aber den Einsatz von Azure OpenAI offengelegt. Auf dem Gutachten steht der Name der Beratung. Für den Inhalt steht sie gerade, mit welchem Werkzeug er auch entstanden ist.
Das Kölner Gericht hat es für die Anwaltschaft so formuliert: Fundstellen nicht zu erfinden und Vorschläge eines Chatbots nicht ungeprüft zu übernehmen, gehört zu den Grundpflichten des Berufs. Klingt selbstverständlich. Trotzdem musste ein Gericht es extra aufschreiben.
Woran du eine Halluzination erkennst
Am Ton erkennst du eine Halluzination nicht, sie sieht genauso aus wie eine richtige Antwort. Es gibt aber Stellen, an denen sie sich häufen. Auf diese Warnsignale schaue ich zuerst:
- Seltene, genaue Angaben: Aktenzeichen, Paragrafen, Geburtsdaten, Prozentzahlen mit Komma, Namen von Studien.
- Quellen, die du nicht öffnen kannst, oder Links, die auf etwas anderes führen.
- Wörtliche Zitate ohne Fundstelle.
- Die KI bestätigt eine Annahme aus deiner Frage, die du selbst nicht geprüft hast. Die Stanford-Forschenden nennen das Sycophancy, auf Deutsch etwa Gefälligkeit: Das Modell folgt der falschen Annahme des Nutzers.
- Eine Zusammenfassung enthält einen Punkt, an den du dich im Original nicht erinnerst.
Der vierte Punkt ist der unbequemste. Wer eine Frage stellt, hofft meistens schon auf eine bestimmte Antwort. Und die KI ist sehr höflich.
Bevor du jetzt nach einem Werkzeug für Faktenchecks suchst: Der einfachste Test kostet eine Minute. Stell dieselbe Frage in einem neuen Chat noch einmal. Weichen die Antworten bei Fakten voneinander ab, ist mindestens eine falsch. Anthropic empfiehlt genau diesen Vergleich mehrerer Antworten in seiner Anleitung gegen Halluzinationen. Danach frag ein zweites Modell. Ich nutze mehrere Modelle parallel, und Gemini ist dabei mein Faktencheck, mehr dazu in meinem Vergleich welche KI die beste ist. Und öffne jede Quelle, auf die es ankommt. Entscheidend ist, ob der Satz dort wirklich steht. Dass es den Link gibt, reicht nicht.
Wenn alle prüfen, prüft keiner
Einzelne Leute, die gut prüfen, reichen nicht. Ein Team braucht feste Regeln, sonst hängt die Qualität davon ab, wer gerade Zeit hat. Und Zeit hat bekanntlich keiner, am wenigsten freitags um vier. Fünf Bausteine helfen, ungefähr in der Reihenfolge, in der ich sie einführen würde:
- Prüfen nach Risiko: Eine interne Ideensammlung braucht keinen Faktencheck. Alles, was an Kunden, Behörden, Gerichte oder die Öffentlichkeit geht, braucht einen. Lege fest, welche Ergebnisse in welche Stufe fallen.
- Quellenpflicht: Die KI muss jede Tatsachenbehauptung mit einem wörtlichen Zitat aus der Quelle belegen. Findet sie keins, streicht sie die Aussage. So steht es auch in der Anleitung von Anthropic.
- Eigene Dokumente statt Allgemeinwissen: Ein System mit RAG (Retrieval Augmented Generation) sucht vor der Antwort in euren Unterlagen und antwortet daraus. Das senkt die Fehlerquote deutlich, wie die Stanford-Studie zeigt, auf null bringt es sie nicht.
- „Weiß ich nicht“ erlauben: Schreib in die Anweisung, dass die KI Lücken offen sagen soll. Laut Anthropic senkt schon das die Zahl falscher Aussagen stark.
- Eine Person gibt frei: Für jedes Ergebnis, das das Haus verlässt, ist ein Mensch namentlich zuständig. Air Canada hat gezeigt, dass sich die Verantwortung nicht an ein Werkzeug abgeben lässt.
Für ein kleines Team reicht am Anfang oft Punkt 5 allein: eine Person, die freigibt, und die das auch weiß. Alle fünf braucht es, sobald mehrere Abteilungen KI-Ergebnisse nach außen geben.
Wie RAG im Kleinen aussieht, zeigt mein RAG-Chatbot Hairy für wenighair, der seit 2023 aus über 500 Video-Transkripten und mehr als 100 Blogartikeln antwortet. Bei so einem System frage ich zuerst: Was passiert, wenn die Antwort nicht in den Dokumenten steht? Und gleich danach: Stimmen die Dokumente überhaupt? Beim Umzug von wenighair weg von Squarespace hatte der Export beim meistbesuchten Artikel nur einen von mehreren Amazon-Links. Darum habe ich den Export mit der Live-Seite abgeglichen. Eine KI, die aus so einem Export antwortet, gibt sehr zuverlässig wieder, was unvollständig ist. Im Unternehmen heißt das: Gleicht eure Wissensbasis einmal mit dem echten Stand ab, bevor ihr eine KI daran hängt.
Bei meinem Projekt Protago AI standen KI-Ausgaben ohne erfundene Fakten von Anfang an auf der Liste, neben Kosten und Recht. Dazu gehört eine Trennung, die ich auch allein durchhalte: Der Schritt, der freigibt, ist ein anderer als der, der erzeugt. Im Unternehmen heißt das, es steht fest, wer am Ende unterschreibt.
Gegen eine Sache helfen die fünf Bausteine allerdings nicht: gegen Müdigkeit. Wer die zwanzigste Zusammenfassung des Tages freigibt, liest anders als bei der ersten. Eine elegante Lösung habe ich dafür ehrlich gesagt nicht. Weniger freigeben und dafür gründlicher ist das Beste, was mir einfällt.
Dazu kommt Schulung. Artikel 4 der EU-KI-Verordnung verlangt seit Februar 2025, dass Unternehmen, die KI einsetzen, Maßnahmen für die KI-Kompetenz ihrer Beschäftigten ergreifen. Zu wissen, wo eine KI gern erfindet, gehört für mich zum Kern davon. Dass viele in Deutschland KI misstrauen und sie trotzdem täglich nutzen, habe ich im Artikel über Vertrauen in KI beschrieben. Gute Prüfregeln machen aus diesem Bauchgefühl ein Verfahren.
Checkliste: KI-Ergebnisse in fünf Minuten prüfen
Diese Fragen kannst du vor jedem wichtigen KI-Ergebnis durchgehen, allein oder im Team. Ein Nein heißt: nachprüfen, bevor es rausgeht.
- Habe ich jede Zahl, jedes Datum und jeden Namen an einer echten Quelle gesehen?
- Lassen sich alle Links öffnen, und steht dort, was die KI behauptet?
- Gibt es für jedes wörtliche Zitat eine Fundstelle?
- Steht in der Zusammenfassung nur, was auch im Original steht?
- Stimmt die Antwort, wenn ich in einem neuen Chat oder bei einem zweiten Modell frage?
- Habe ich geprüft, ob meine Frage eine Annahme enthält, die die KI nur bestätigt hat?
- Weiß ich, wer das Ergebnis freigibt, und hat diese Person es gelesen?
Halluzinationen werden seltener. Verschwinden werden sie vermutlich nicht, solange Modelle Wahrscheinlichkeiten berechnen. Darum bleibt die Regel aus meinem Artikel darüber, warum KI Menschen nicht ersetzt: Die KI schreibt den Entwurf, ein Mensch entscheidet, was davon stimmt.
Ich würde deshalb mit keiner neuen Software anfangen. Mit Frage 7 würde ich anfangen, morgen, beim nächsten Ergebnis, das euer Haus verlässt: Wer gibt das frei? Lautet die ehrliche Antwort „irgendwie alle“, habt ihr eure erste Halluzination gefunden. Sie stammt nur nicht von der KI.
Studio ✺ Christos
Häufige Fragen
Was bedeutet Halluzination im KI-Kontext?
Eine KI halluziniert, wenn sie etwas Falsches oder Erfundenes so überzeugend formuliert, als wäre es eine Tatsache. Typisch sind erfundene Quellen, Zitate, Urteile und falsche Zahlen. Die KI tut das nicht absichtlich, sie erzeugt wahrscheinlichen Text ohne eingebaute Faktenprüfung.
Welcher Mangel verursacht Halluzinationen?
Einen einzelnen Mangel gibt es nicht. Sprachmodelle sagen das wahrscheinlichste nächste Wort voraus und können seltene Einzelfakten aus Mustern nicht sicher ableiten. Dazu belohnen die üblichen Tests Raten mehr als ein ehrliches „weiß ich nicht“, wie OpenAI im September 2025 gezeigt hat.
Welche KI halluziniert am wenigsten?
Das hängt von der Aufgabe ab, einen Sieger für alles gibt es nicht. Beim Zusammenfassen von Texten lagen im Vectara-Vergleich vom Oktober 2026 die besten Modelle unter 4 Prozent, bekannte Modelle wie GPT-6 Sol, Claude Opus 5.5 und Gemini 4 Argon zwischen 6,5 und 12,1 Prozent. Für deinen Einsatz hilft nur ein eigener Test mit echten Aufgaben.
Kann man KI-Halluzinationen ganz verhindern?
Nein, nur deutlich seltener machen. Es hilft, der KI eigene Dokumente zu geben (RAG), Belege mit wörtlichem Zitat zu verlangen und ausdrücklich „weiß ich nicht“ zu erlauben. Selbst Anthropic schreibt, dass diese Mittel Halluzinationen verringern, aber nicht beseitigen.
Wer haftet, wenn eine KI im Unternehmen Falsches sagt?
Die bekannten Fälle zeigen eine klare Linie: Verantwortlich ist, wer das Ergebnis nutzt oder anbietet. Air Canada musste 2024 für die falsche Auskunft seines Chatbots einstehen, Anwälte wurden für erfundene Urteile bestraft oder gerügt. Für deinen Einzelfall gilt, was eine Rechtsberatung dazu sagt.