Technologie · Modelle & Tools
Warum KI halluziniert – und was wirklich dagegen hilft
Warum halluziniert KI überhaupt? Die Mechanik hinter erfundenen Fakten, ein Beispiel, das Gegenmittel-Ranking und eine Checkliste für den Praxis-Check.
Von Boaz Lichtenstein
Ein Modell erfindet ein Zitat, das nie gefallen ist, oder eine Studie, die nie existiert hat – und formuliert es mit derselben Selbstsicherheit wie eine korrekte Antwort. Wer versteht, warum das passiert, kann gezielter gegensteuern, statt dem Zufall zu vertrauen.
Das Wichtigste in Kürze
- Ein Sprachmodell sagt Wörter vorher, es schlägt keine Fakten nach – Halluzinationen sind eine Folge dieses Grundprinzips, kein Softwarefehler.
- Selbstsicherheit im Ton ist kein Wahrheitssignal: Erfundene und echte Fakten klingen für das Modell gleich plausibel.
- Nischenwissen, wörtliche Zitate, exakte Zahlen und mehrstufiges Rechnen im Fließtext sind die vier Risikozonen.
- Kontext mitliefern schlägt jedes andere Gegenmittel – Quellenpflicht, Werkzeugeinsatz und kritisches Nachfragen folgen dahinter.
- Ein Restrisiko bleibt strukturell bestehen; die produktive Antwort ist ein fester Prüf-Workflow, nicht das Warten auf das perfekte Modell.
Die Mechanik hinter der Halluzination
Ein Sprachmodell beantwortet keine Fragen, indem es Fakten nachschlägt – es berechnet, welches Wort als Nächstes am plausibelsten auf das bisher Geschriebene folgt. Für die meisten Alltagsfragen liefert dieses Prinzip erstaunlich zuverlässige Ergebnisse, weil richtige Fakten in den Trainingsdaten meist auch die statistisch naheliegendste Fortsetzung sind. Genau dort, wo das nicht mehr gilt, entstehen Halluzinationen – und die Selbstsicherheit der Formulierung ist dabei kein Signal: Ein Modell „klingt“ bei einer erfundenen Quelle genauso überzeugt wie bei einer echten, weil beide auf demselben Mechanismus beruhen. Das erklärt auch, warum längeres Nachdenken oder mehrfaches Nachfragen allein keine Garantie ist – mehr Umfang ersetzt keine Faktenbindung. Ein weiterer Faktor: Die sogenannte Temperatur-Einstellung, die die Zufallsstreuung bei der Wortauswahl steuert, beeinflusst zusätzlich, wie oft ein Modell vom naheliegendsten Pfad abweicht – mehr Kreativität bedeutet automatisch ein höheres Risiko für Abweichungen von Fakten.
Wann Halluzinationen sich häufen
Vier Situationen erhöhen das Risiko spürbar: Nischenfakten und Randthemen, zu denen wenig Trainingsmaterial existiert; wörtliche Zitate und Quellenangaben, die Präzision statt Plausibilität verlangen; konkrete Zahlen und Statistiken, bei denen eine plausibel klingende Zahl leicht mit der richtigen verwechselt wird; und mehrstufiges Rechnen im Fließtext, das eigentlich in ein Werkzeug gehört statt in die Wortvorhersage. Alle vier Fälle haben gemeinsam, dass der „naheliegendste“ nächste Textbaustein nicht mehr zuverlässig mit dem korrekten übereinstimmt.
Als Faustregel für die Praxis gilt: Je häufiger ein Fakt im Trainingsmaterial vorkommt und je weniger Präzision er verlangt, desto zuverlässiger die Antwort. Eine Frage wie „Was ist die Hauptstadt von Frankreich?“ hat praktisch kein Halluzinationsrisiko – die Antwort ist tausendfach redundant vorhanden. Eine Frage wie „Nenne mir die genaue Randnummer eines bestimmten Gerichtsurteils“ dagegen verlangt eine Präzision, die selbst starke Modelle ohne externen Zugriff kaum liefern können. Zwischen diesen beiden Polen lohnt sich vor jeder wichtigen Antwort ein kurzer Realitäts-Check: Wie oft dürfte dieser konkrete Fakt in dieser exakten Form irgendwo im Trainingsmaterial gestanden haben?
Ein Beispiel: So entsteht eine erfundene Quelle
Am deutlichsten wird die Mechanik an einem konkreten Fall: Ein Nutzer bittet ein Modell um eine Studie, die eine plausible Behauptung stützt – das Modell liefert Titel, Jahr, Autorenname und Fachzeitschrift, alles im korrekten Format, nichts davon existiert.
Der Grund liegt im Muster, nicht im Inhalt: Zitationen folgen im Trainingsmaterial einer festen Struktur (Autor, Jahr, Titel, Journal), und genau diese Struktur reproduziert das Modell zuverlässig – nur der konkrete Inhalt ist geraten, wenn keine passende echte Quelle „naheliegend genug“ war. Bei Zahlen läuft es ähnlich: Nach einer Marktgröße oder einem Prozentwert gefragt, nennt das Modell eine Zahl, die plausibel in der richtigen Größenordnung liegt, ohne dass sie aus einer realen Quelle stammt. In beiden Fällen sieht die Antwort fertig und belastbar aus – genau das macht sie gefährlich, wenn sie ungeprüft weiterverwendet wird. Tückisch ist dabei vor allem die Mischung: Ein Absatz mit drei richtigen Fakten und einem erfundenen liest sich nicht anders als ein Absatz, der komplett stimmt – die Fehlerquote sinkt dadurch nicht, sie wird nur schwerer zu entdecken.
Das Gegenmittel-Ranking
Nicht alle Gegenmaßnahmen wirken gleich stark – Kontext mitliefern schlägt Quellenpflicht, Werkzeugeinsatz und kritisches Nachfragen deutlich, lässt sich aber am besten mit den anderen drei kombinieren.
| Gegenmittel | Wirksamkeit | Aufwand | Am wirksamsten bei |
|---|---|---|---|
| Kontext mitliefern | Sehr hoch | Mittel | Firmenspezifisches und aktuelles Wissen |
| Quellen einfordern und prüfen | Hoch | Niedrig–mittel | Zitate, Studien, Statistiken |
| Werkzeuge rechnen/suchen lassen | Hoch | Niedrig | Zahlen, Berechnungen, aktuelle Fakten |
| Kritisches Nachfragen | Mittel | Sehr niedrig | Schneller erster Warncheck |
Am wirksamsten ist, dem Modell den nötigen Kontext direkt mitzuliefern, statt es aus dem Gedächtnis raten zu lassen – das Prinzip, das unser Artikel zu Context Engineering ausführlich behandelt. Fast ebenso wirksam: Quellenangaben aktiv einfordern und stichprobenartig prüfen, statt Behauptungen unbelegt stehen zu lassen. Für Zahlen und Berechnungen hilft es, das Modell ein Werkzeug rechnen zu lassen, statt der Textausgabe zu vertrauen. Und zuletzt bleibt kritisches Nachfragen ein einfacher, oft unterschätzter Hebel: „Woher stammt das?“ fördert erstaunlich häufig zutage, dass eine Behauptung wackliger ist, als sie klang.
Halluzination erkennen: Checkliste für den Praxis-Check
Eine kurze Checkliste reicht, um die größten Risikofälle vor der Weiterverwendung abzufangen – sie kostet ein bis zwei Minuten pro wichtiger Behauptung.
- Prüfen, ob die Antwort Zitate, Zahlen oder Nischenwissen enthält – dort ist besondere Wachsamkeit nötig.
- Aktiv nachfragen: „Woher stammt das?“
- Die genannte Quelle unabhängig suchen – existiert sie wirklich?
- Bei Zahlen: die Rechnung mit einem Werkzeug nachvollziehen lassen oder selbst gegenrechnen.
- Bei folgenreichen Entscheidungen: eine zweite, unabhängige Quelle oder eine fachkundige Person bestätigen lassen.
- Ergebnis dokumentieren, wenn der Vorgang wiederkehrt – so wird der Check zur Routine statt zur Ausnahme.
Die häufigsten Fehler im Umgang mit Halluzinationen
Ein paar wiederkehrende Denkfehler sorgen dafür, dass Halluzinationen trotz bekannter Gegenmittel immer wieder unbemerkt durchrutschen.
Selbstsicherheit mit Richtigkeit verwechseln: Ein überzeugend formulierter Satz wird ungeprüft übernommen. Korrektur: den Ton konsequent ignorieren, nur den Inhalt prüfen.
Nur bei „wichtigen“ Themen prüfen: Gerade unauffällige Nebenfakten schleichen sich unbemerkt ein. Korrektur: derselbe Prüf-Workflow für alle weiterverwendeten Fakten, nicht nur für die offensichtlich kritischen.
Auf das bessere Modell warten: Statt Prozesse anzupassen, wird auf die nächste Modellgeneration gehofft. Korrektur: Prüf-Workflows jetzt einbauen, unabhängig vom verwendeten Modell.
Nur den ersten Entwurf prüfen: Jede neue Modellantwort – auch eine Überarbeitung – kann neue Fehler einführen. Korrektur: bei jeder wesentlichen Änderung erneut gegenchecken.
Keine Verantwortlichkeit im Team klären: Mehrere Personen nutzen dieselbe KI-Ausgabe weiter, aber niemand hat sie geprüft, weil jeder annimmt, „das hat schon jemand gemacht“. Korrektur: Prüfung als festen Schritt im Arbeitsablauf verankern, nicht als optionale Kür, und dokumentieren, wer welchen Fakt bereits verifiziert hat.
Unterm Strich
Realistisch bleibt ein Restrisiko, das kein Trick vollständig eliminiert. Die produktive Haltung ist deshalb nicht, auf das halluzinationsfreie Modell zu warten, sondern Prüf-Workflows fest einzubauen: Wichtige Fakten bekommen eine zweite, unabhängige Quelle, bevor sie irgendwo verwendet werden – genauso, wie man auch menschliche Zuarbeit nicht ungeprüft übernimmt. Diese Disziplin kostet wenig Zeit, verhindert aber genau die Fehler, die am teuersten werden, wenn sie unbemerkt bleiben. Wer eine Checkliste nutzt statt auf sein Bauchgefühl zu vertrauen, hat das Problem praktisch gelöst – auch wenn es technisch nie ganz verschwindet.