KI-Halluzinationen sind Antworten, die ein Sprachmodell wie ChatGPT, Claude oder Gemini erfindet und trotzdem als Tatsache ausgibt: falsche Zahlen, nicht existierende Quellen, erfundene Zitate. Sie entstehen, weil das Modell Wörter nach Wahrscheinlichkeit aneinanderreiht und nicht in einem Lexikon nachschlägt. Du vermeidest sie, indem du Quellen verlangst, die Websuche einschaltest und jede Zahl gegenprüfst.
Das Thema klingt akademisch, ist aber der häufigste Grund, warum Menschen in meinen Kursen KI nach dem ersten Versuch wieder weglegen. Eine selbstbewusst falsche Antwort kostet Vertrauen. Wer versteht, warum sie entsteht, kann die Werkzeuge trotzdem sinnvoll nutzen.
Ein echter Fall aus dem Gerichtssaal
Im Juni 2023 verhängte ein Bundesgericht in New York eine Strafe von 5.000 Dollar gegen zwei Anwälte und ihre Kanzlei. Sie hatten in einem Schadensersatzprozess gegen die Fluggesellschaft Avianca einen Schriftsatz eingereicht, der sechs frühere Gerichtsentscheidungen zitierte. Keine davon existierte. ChatGPT hatte die Fälle erfunden, mit Aktenzeichen, Richternamen und wörtlichen Zitaten. Als einer der Anwälte den Chatbot fragte, ob die Fälle echt seien, bestätigte dieser das.
Der Fall Mata gegen Avianca ist so bekannt, weil er alles zeigt, was Halluzinationen gefährlich macht. Die erfundenen Urteile sahen aus wie echte. Sie passten perfekt zur Argumentation. Und der Nutzer vertraute einer Maschine, die auf Nachfrage genauso überzeugt antwortet wie bei korrekten Angaben. Wer die Grundlagen aus dem Artikel KI einfach erklärt kennt, sieht darin kein Rätsel, sondern die logische Folge der Bauweise.
Warum KI rät statt weiß
Ein Sprachmodell hat eine einzige Fähigkeit perfektioniert: vorhersagen, welches Wort als nächstes am wahrscheinlichsten kommt. Es hat beim Training riesige Textmengen gelesen und daraus gelernt, wie Sätze, Argumente und Quellenangaben typischerweise aussehen. Was es nicht gelernt hat, ist der Unterschied zwischen „das steht so in den Daten“ und „das klingt so, als könnte es in den Daten stehen“.
Bei gut dokumentiertem Wissen fällt beides zusammen. Fragst du nach der Hauptstadt von Frankreich, kommt „Paris“ millionenfach in den Trainingsdaten vor. Fragst du nach dem Geburtsdatum eines wenig bekannten Autors, gibt es dieses Muster nicht. Das Modell erzeugt trotzdem ein Datum, weil an dieser Stelle grammatisch und stilistisch ein Datum erwartet wird. Es erfindet nicht aus Bosheit. Es vervollständigt.
OpenAI hat im September 2025 in einem Forschungsbericht zu Halluzinationen einen zweiten Grund benannt: die Art, wie Modelle bewertet werden. In den üblichen Tests zählt nur die richtige Antwort. Ein „Ich weiß es nicht“ bringt null Punkte, eine geratene Antwort hat immerhin eine Chance. Wer so geprüft wird, lernt zu raten. Das gilt für Schüler in Multiple-Choice-Tests genauso wie für Sprachmodelle.
Wo Sprachmodelle am häufigsten danebenliegen
Aus den Fragen in meinen Kursen und aus dokumentierten Fällen ergibt sich ein klares Muster. Halluzinationen häufen sich dort, wo Details selten, exakt und schwer aus Mustern ableitbar sind.
- Quellen und Literatur. Erfundene Studien mit plausiblen Autoren, Jahreszahlen und sogar DOI-Nummern sind der Klassiker.
- Zahlen und Statistiken. Prozentwerte, Marktgrößen, Einwohnerzahlen. Oft stimmt die Größenordnung, die genaue Zahl ist frei kombiniert.
- Namen und Biografien. Bei wenig bekannten Personen vermischt das Modell Lebensläufe oder ergänzt Ämter, die es nie gab.
- Öffnungszeiten, Adressen, Telefonnummern. Lokale Informationen sind in den Trainingsdaten dünn gesät und veralten schnell.
- Gesetze und Paragrafen. Der Paragraf existiert, der Inhalt ist ungefähr richtig, die Details sind falsch. Für eine Beratung ist das wertlos.
- Zitate. Berühmte Sätze bekommen den falschen Urheber, unbekannte Sätze werden berühmten Leuten zugeschrieben.
Dazu kommt alles, was nach dem Trainingsstichtag passiert ist. Ohne Websuche kennt das Modell weder die aktuelle Gesetzesänderung noch den neuen Geschäftsführer. Es antwortet trotzdem, mit dem Stand von gestern.
Warum „Halluzination“ ein schiefes Wort ist
Der Begriff hat sich durchgesetzt, aber er führt in die Irre. Eine Halluzination ist eine Fehlwahrnehmung, also die Ausnahme von einem Normalzustand, in dem jemand die Welt richtig sieht. Ein Sprachmodell nimmt gar nichts wahr. Es erzeugt wahre und falsche Sätze mit demselben Verfahren. Der Fehler ist kein Ausrutscher, sondern eine Eigenschaft.
Fachleute schlagen deshalb andere Wörter vor. Manche sprechen von „Konfabulation“, einem Begriff aus der Psychologie für das unbewusste Auffüllen von Erinnerungslücken mit erfundenen Details. Drei Philosophen der Universität Glasgow gingen 2024 in einem Fachaufsatz mit dem Titel „ChatGPT is bullshit“ noch weiter. Ihr Argument: Das Modell redet ohne jede Rücksicht auf Wahrheit, und genau das sei die Definition von Bullshit im philosophischen Sinn. Welchen Begriff du wählst, ist Geschmackssache. Entscheidend ist der Gedanke dahinter: Die Maschine hat keinen Wahrheitsbegriff. Den bringst du mit.
Fünf Warnsignale für erfundene Antworten
Du erkennst Halluzinationen nicht am Ton, der ist immer gleich sicher. Aber es gibt Hinweise, die mich stutzig machen.
- Zu glatte Details. Exakte Seitenzahlen, Aktenzeichen oder DOI-Nummern ohne eingeschaltete Websuche sind fast immer erfunden.
- Nischenwissen ohne Zögern. Je spezieller deine Frage, desto dünner die Datenbasis. Antwortet das Modell trotzdem flüssig und detailreich, prüfe nach.
- Die Antwort kippt bei Nachfrage. Frag „Bist du sicher?“ und beobachte, ob das Modell sofort einknickt und das Gegenteil behauptet. Wissen verhält sich nicht so.
- Quellen ohne Treffer. Gib den genannten Titel in eine Suchmaschine ein. Findest du ihn nicht in zwei Minuten, gibt es ihn vermutlich nicht.
- Vage Autoritäten. „Studien zeigen“, „Experten sind sich einig“, „laut einer Umfrage“ ohne Namen und Jahr sind Füllmaterial, kein Beleg.
Das dritte Signal hat eine Kehrseite: Manche Modelle bleiben auch bei falschen Angaben hartnäckig. Ein stabiles „Ja, sicher“ ist also kein Beweis. Ein schnelles Umkippen ist aber ein deutliches Warnzeichen.
Sechs Tricks, mit denen du Halluzinationen vermeidest
Ganz ausschließen kannst du sie nicht. Mit diesen Gewohnheiten drückst du die Fehlerquote aber deutlich und merkst Fehler früher.
- Quellenpflicht im Prompt. Verlange zu jeder Aussage eine Quelle und erlaube ausdrücklich die Antwort „keine Quelle vorhanden“. So nimmst du dem Modell den Anreiz zu raten.
- Websuche einschalten. ChatGPT, Claude, Gemini und Copilot können live im Netz suchen, zum Teil auch in der kostenlosen Version (Stand November 2026). Dann stützt sich die Antwort auf echte Seiten, die du anklicken kannst.
- „Weiß ich nicht“ erlauben. Ein Satz wie „Wenn du dir nicht sicher bist, sag es“ wirkt. Die Modelle sind darauf trainiert, Anweisungen zu folgen, auch dieser.
- Datei mitgeben. Lade das PDF, den Vertrag oder den Bericht hoch und lass das Modell nur daraus antworten. Prüfe vorher, ob das Dokument sensible Daten enthält. Was nicht in einen Chatbot gehört, steht im Artikel Was du nie in ChatGPT eingeben solltest.
- Zweite KI gegenprüfen. Stell dieselbe Frage einem anderen Assistenten. Stimmen beide überein, ist die Chance auf Korrektheit höher. Weichen sie ab, weißt du, wo du nachschlagen musst. Welche Assistenten sich wofür eignen, zeigt der Vergleich der KI-Assistenten.
- Perplexity für Recherche. Perplexity ist von Grund auf als Antwortmaschine mit Quellen gebaut. Jede Aussage trägt eine Fußnote, die du anklicken kannst. Die Grundversion ist kostenlos (Stand November 2026). Auch dort gilt: die Quelle lesen, statt sie nur zu zählen.
Wie du solche Anweisungen grundsätzlich aufbaust, damit das Modell sie auch befolgt, erkläre ich in der Anleitung zum Schreiben guter Prompts.
Werden neue Modelle besser?
Ja und nein. Modelle mit Websuche und mit längerer „Denkzeit“ vor der Antwort liegen bei gut dokumentierten Themen seltener daneben als die erste ChatGPT-Generation von 2022. Das ist ein echter Fortschritt, den du im Alltag spürst.
Gleichzeitig gab es Rückschritte. OpenAI veröffentlichte im April 2025 Testwerte, nach denen das damals neue Modell o3 bei Fragen zu Personen in rund 33 Prozent der Fälle Fakten erfand, der Vorgänger o1 in 16 Prozent. Der Hersteller erklärte das damit, dass das neue Modell mehr Behauptungen aufstellt, richtige wie falsche. Und der eigene Forschungsbericht vom September 2025 kommt zu dem Schluss, dass Halluzinationen bleiben, solange die Tests das Raten belohnen.
Meine Einordnung: Die Fehlerquote sinkt, verschwindet aber nicht. Jede Antwort ohne Quelle bleibt eine Behauptung. Das gilt für das neueste Modell genauso wie für das von vor drei Jahren.
Was das für Beruf und Unterricht bedeutet
Im Beruf heißt das: KI für den Entwurf, du für die Prüfung. Eine zusammengefasste E-Mail prüfst du in zehn Sekunden. Eine Marktzahl für die Präsentation prüfst du gegen die Originalquelle, sonst kommt sie nicht in die Präsentation. Rechtliche, medizinische und steuerliche Angaben lässt du dir von einer KI höchstens vorsortieren, nie entscheiden.
Für Lehrkräfte und Trainer ist das Thema ein Geschenk. Eine Übung, die ich gern einsetze: Die Teilnehmer lassen sich von einem Chatbot drei Quellen zu einem Thema nennen und prüfen, welche davon existieren. Das trainiert Quellenkritik besser als jede Theoriestunde. Erfundene oder unpassende Quellen sind übrigens auch eines der sichersten Merkmale, an denen du einen KI-Text erkennst.
Wenn du tiefer einsteigen willst: Katharina Zweig beschreibt in „Die KI war’s!“ (Heyne, 2023) anhand realer Fälle, wo KI-Systeme danebenliegen und wer dafür die Verantwortung trägt. Das Buch ist gut lesbar und braucht keine Vorkenntnisse.
„Die KI war's!“ bei Amazon ansehen*Häufige Fragen
Warum macht KI Fehler?
Sprachmodelle berechnen, welches Wort am wahrscheinlichsten folgt, und prüfen dabei nicht, ob der Satz stimmt. Bei seltenen oder sehr speziellen Informationen fehlt das Muster, und das Modell füllt die Lücke mit etwas, das passend klingt. Dazu kommen veraltete Trainingsdaten und Tests, die das Raten belohnen.
Was sind Beispiele für KI-Halluzinationen?
Erfundene Studien mit Autor und Jahr, nicht existierende Gerichtsurteile, falsche Geburtsdaten, erfundene Zitate berühmter Personen, falsche Paragrafen und falsche Öffnungszeiten. Der bekannteste Fall ist der Schriftsatz mit sechs erfundenen Urteilen, für den zwei New Yorker Anwälte 2023 bestraft wurden.
Kann man Halluzinationen komplett vermeiden?
Nein. Sie folgen aus der Arbeitsweise der Modelle. Mit Websuche, hochgeladenen Dokumenten, Quellenpflicht im Prompt und Gegenprüfung senkst du die Quote stark, aber jede Antwort ohne nachprüfbare Quelle bleibt eine Behauptung.
Welche KI halluziniert am wenigsten?
Das hängt mehr von der Aufgabe und den eingeschalteten Werkzeugen ab als vom Anbieter. Ein Modell mit Websuche schlägt dasselbe Modell ohne. Für reine Recherche mit Quellen ist Perplexity ein guter Startpunkt, für die Arbeit mit eigenen Dokumenten jeder Assistent mit Datei-Upload.
Lügt ChatGPT absichtlich?
Nein. Lügen setzt voraus, die Wahrheit zu kennen und sie bewusst zu verschweigen. Ein Sprachmodell hat weder Absicht noch Wahrheitsbegriff. Es erzeugt den wahrscheinlichsten Text, und der ist manchmal falsch.
Wie erkenne ich KI-Halluzinationen?
Prüfe genannte Quellen per Suchmaschine, achte auf exakte Details ohne Beleg, auf vage Formulierungen wie „Studien zeigen“ und darauf, ob die Antwort bei Nachfrage kippt. Bei Zahlen, Namen und Rechtsfragen vergleichst du immer mit dem Original.
Kurz gesagt
Halluzinationen sind kein Fehler, den ein Update demnächst behebt. Sie gehören zur Technik. Gut damit umgehen heißt: Quellen verlangen, Websuche nutzen, Zahlen prüfen und bei allem, was Konsequenzen hat, selbst entscheiden. Wer das verinnerlicht, bekommt von KI viel Zeit geschenkt und keine bösen Überraschungen.
Als nächsten Schritt empfehle ich dir die Anleitung zum Schreiben guter Prompts, denn die meisten Fehler lassen sich schon in der Frage verhindern. Begriffe aus diesem Artikel wie Token oder Trainingsdaten findest du im Glossar der KI-Begriffe.
