Was ist eine KI-Halluzination?
Eine KI-Halluzination ist eine Ausgabe eines generativen KI-Werkzeugs, die selbstsicher präsentiert wird, aber falsch, erfunden oder nicht durch die erhaltenen Eingaben belegt ist. Das Profil für generative KI von NIST verwendet dafür den Begriff Konfabulation und beschreibt damit generative Systeme, die fehlerhafte oder falsche Inhalte erzeugen und selbstsicher präsentieren. NIST schließt in diese Definition auch Ausgaben ein, die von der Eingabeaufforderung oder anderen Eingaben abweichen oder früheren Aussagen im selben Gespräch widersprechen.
Der Begriff Halluzination ist eine Metapher, und eine etwas irreführende dazu. Das Tool sieht keine Dinge, die nicht da sind. Es erzeugt Text, der im jeweiligen Kontext statistisch plausibel ist, und manchmal ist plausibler Text falsch. Deshalb sieht eine Halluzination selten wie ein Fehler aus. Sie sieht aus wie eine normale, gut formulierte Antwort.
Warum halluziniert ChatGPT?
ChatGPT und ähnliche Tools halluzinieren, weil sie darauf ausgelegt sind, wahrscheinliche Textfortsetzungen zu erzeugen, nicht überprüfte Fakten abzurufen. NIST beschreibt Konfabulation als natürliche Folge der Bauweise generativer Modelle: Sie bilden die statistische Verteilung ihrer Trainingsdaten näherungsweise ab. Das kann korrekte Ausgaben hervorbringen, aber auch sachlich falsche oder widersprüchliche. NIST weist darauf hin, dass das Problem besonders bei offenen, ausführlichen Antworten und bei Fragen relevant ist, die Fachwissen erfordern.
Eine Forschungsarbeit von Kalai, Nachum, Vempala und Zhang aus dem Jahr 2025 liefert einen weiteren Teil der Erklärung. Die Autoren argumentieren, dass Trainings- und Bewertungsverfahren eher das Raten belohnen als das Eingestehen von Unsicherheit: Ein Modell, das rät, schneidet bei vielen Vergleichstests besser ab als eines, das zugibt, die Antwort nicht zu wissen. Ihrer Darstellung nach werden Modelle darauf optimiert, Tests gut zu bestehen. Unabhängig vom genauen Mechanismus bleibt die praktische Schlussfolgerung für Beschäftigte dieselbe: Wie sicher das Werkzeug auftritt, sagt nichts darüber aus, ob eine Aussage wahr ist.
Halluzinationen sind wahrscheinlicher, wenn Sie nach etwas wenig Bekanntem, Aktuellem, sehr Spezifischem oder nach Informationen außerhalb des bereitgestellten Materials fragen: einer genauen Zahl, der Funktion einer bestimmten Person, einem Zitat, einem Gerichtsfall oder dem aktuellen Preis eines Produkts. Sie sind weniger wahrscheinlich, aber weiterhin möglich, wenn das Werkzeug ausschließlich mit einem von Ihnen eingefügten Dokument arbeiten soll.
Wie zeigen sich KI-Halluzinationen im Arbeitsalltag?
Im Arbeitsalltag zeigen sich Halluzinationen meist als kleine, konkrete Details, die plausibel klingen. Die Liste umfasst die Formen, denen Beschäftigte am häufigsten begegnen. Wer ihre typischen Muster erkennt, kann sie leichter entdecken.
Erfundene Quellen
Ein Quellenbeleg, Berichtstitel, eine URL oder ein Zitat, das nicht existiert oder zwar existiert, aber etwas anderes aussagt.
Erfundene Einzelheiten
Ein Datum, Preis, Prozentsatz, Name oder eine Stellenbezeichnung, die nirgends im bereitgestellten Material vorkommen.
Überhöhte Gewissheit
Eine Zusammenfassung, die aus möglicherweise ein definitiv macht oder aus einem vorgeschlagenen Termin einen bestätigten.
Nicht belegte Ursachen
Eine Erklärung für eine Zahlenänderung, die sich aus den Daten nicht ableiten lässt.
Erfundene Begründung
Eine schlüssige Schritt-für-Schritt-Argumentation, die zu einer falschen Antwort führt. NIST weist darauf hin, dass Modelle manchmal logische Schritte zur Begründung einer Antwort liefern, obwohl die Antwort falsch ist.
Widerspruch zu einer eigenen Aussage
Eine Aussage, die etwas widerspricht, das das Werkzeug einige Nachrichten zuvor gesagt hat.
Was passiert, wenn eine Halluzination nicht erkannt wird?
Das bekannteste öffentliche Beispiel ist das Verfahren Mata gegen Avianca, über das das US-Bundesbezirksgericht für den südlichen Bezirk von New York am 22. Juni 2023 entschied. Anwälte reichten einen Schriftsatz ein, der nicht existierende Gerichtsentscheidungen mit erfundenen Zitaten und Fundstellen enthielt, die ChatGPT erzeugt hatte. Das Gericht stellte bösgläubiges Handeln fest und verhängte gegen die Anwälte und ihre Kanzlei gesamtschuldnerisch eine Geldsanktion von 5,000 US-Dollar. Außerdem mussten sie ihren Mandanten und die Richter anschreiben, deren Namen fälschlich mit den erfundenen Entscheidungen verbunden worden waren. Bei der Bemessung der Sanktion berücksichtigte das Gericht, dass die Kanzlei verpflichtende juristische Fortbildungen zu Technologiekompetenz und KI-Tools für ihre Anwälte und Beschäftigten organisiert hatte: Schulung also erst im Nachhinein.
Die Lehre daraus ist nicht, dass Anwälte nachlässig sind. Sie lautet vielmehr: Eine erfundene Fundstelle sieht genauso aus wie eine echte, und die Person, die sich darauf verlassen hat, hat genau den Schritt ausgelassen, der den Fehler aufgedeckt hätte: die Quelle zu öffnen. Die meisten Halluzinationen im Arbeitsalltag sind kleiner, etwa ein falsches Lieferdatum in einer Kunden-E-Mail oder eine erfundene Statistik in einer Präsentation. Der Fehlermechanismus ist aber derselbe.
Möchten Sie sehen, wie das mit einer bestimmten Rolle zusammenhängt?
Geplante Testphase für Teams entdecken ↗Sind KI-Halluzinationen noch immer ein Problem?
Ja. Anbieter haben hilfreiche Funktionen ergänzt, etwa Websuche mit Quellenangaben und Antworten auf Grundlage hochgeladener Dateien. Keiner von ihnen behauptet jedoch, Halluzinationen beseitigt zu haben. Anthropic erklärt in seiner eigenen Dokumentation zu Claude, dass die empfohlenen Methoden Halluzinationen verringern, aber nicht vollständig verhindern. Zudem wird empfohlen, wichtige Informationen zu überprüfen, besonders bei folgenreichen Entscheidungen. Die Hilfeseiten von Google zu Gemini in Gmail und Sheets warnen davor, dass Gemini-Funktionen unzutreffende oder unangemessene Informationen vorschlagen können.
Begegnen Sie jeder Behauptung, ein Werkzeug halluziniere nicht mehr, mit Skepsis. Die bessere Frage ist, welche Aufgaben ein bestimmtes Werkzeug mit welchen Prüfungen für Ihren Zweck ausreichend zuverlässig erledigt.
Wie können Sie KI-Halluzinationen reduzieren?
Sie reduzieren Halluzinationen, indem Sie den Spielraum für erfundene Inhalte begrenzen: Geben Sie dem Tool die Quelle, weisen Sie es an, ausschließlich diese Quelle zu verwenden, erlauben Sie ihm, Unwissen einzugestehen, und verlangen Sie Belege für jede Aussage. Die folgenden Techniken stammen aus Anbieterempfehlungen, darunter die Dokumentation von Anthropic zur Reduzierung von Halluzinationen, und wurden für nichttechnische Aufgaben angepasst. Keine davon macht eine Überprüfung überflüssig.
Beispiel für einen Prompt, der mehrere Techniken kombiniert: Listen Sie ausschließlich anhand des folgenden Richtlinientextes die drei Regeln auf, die für Geschäftsreisen gelten, die innerhalb von 48 Stunden vor der Abreise gebucht werden. Zitieren Sie zu jeder Regel den genauen Satz, aus dem sie hervorgeht. Wenn die Richtlinie einen Punkt nicht abdeckt, schreiben Sie Nicht angegeben. Verwenden Sie kein Allgemeinwissen.
Die Quelle bereitstellen
Fügen Sie das Dokument ein oder hängen Sie es an, statt das Tool zu fragen, was es weiß. Aufgaben mit konkreter Quellengrundlage scheitern seltener als offene Fragen.
Beschränken Sie die Antwort auf die Quelle
Geben Sie ausdrücklich an, dass nur das bereitgestellte Material und kein Allgemeinwissen verwendet werden soll.
Machen Sie deutlich, dass Nichtwissen erlaubt ist
Weisen Sie das Werkzeug an, Nicht angegeben oder Mir liegen nicht genügend Informationen vor zu schreiben, statt Lücken zu füllen.
Nach Zitaten fragen
Bitten Sie den Assistenten bei langen Dokumenten, zuerst die genauen Sätze zu extrahieren und die Antwort dann auf diese Zitate zu stützen.
Lassen Sie die KI ihre Aussagen prüfen
Bitten Sie die KI nach dem Erstellen des Entwurfs, für jede Aussage ein belegendes Zitat zu finden und alle Aussagen zu entfernen, die sie nicht belegen kann.
Enger gefasste Fragen stellen
Eine konkrete Frage nach der anderen lässt sich leichter überprüfen als ein langer, offen gehaltener Aufsatz.
Durchläufe vergleichen
Stellen Sie dieselbe Frage zweimal. Wenn sich die Antworten bei einer Tatsachenangabe widersprechen, behandeln Sie diese als ungeprüft.
Wie erkennt man eine Halluzination in der Praxis?
Nehmen Sie als Beispiel den fiktiven Dentalbedarfshändler Northgate Supply mit 25 Beschäftigten. Ein Vertriebskoordinator fügt die zweiseitige Rückgaberichtlinie des Unternehmens ein und fragt einen Assistenten: Welche Rückgabefrist gilt bei uns für geöffnete Produkte, und fällt eine Wiedereinlagerungsgebühr an? Laut der bereitgestellten Richtlinie können ungeöffnete Artikel innerhalb von 30 Tagen zurückgegeben werden, geöffnete Artikel nur bei Mängeln. Zu Wiedereinlagerungsgebühren enthält sie keine Angaben.
Die erste Antwort: Geöffnete Produkte können innerhalb von 14 Tagen zurückgegeben werden, wobei eine Wiedereinlagerungsgebühr von 15 Prozent anfällt. Beide Angaben sind erfunden. In der Richtlinie steht weder etwas von 14 Tagen noch von einer Gebühr. Sie wirken plausibel, weil viele Rückgaberichtlinien solche Angaben enthalten. Genau so führt eine statistisch wahrscheinliche Antwort zu einem falschen Ergebnis.
Der Koordinator stellt die Frage erneut und nutzt dabei die oben genannten Techniken: nur die Richtlinie verwenden, den Satz zitieren, bei fehlenden Angaben „Nicht angegeben“ schreiben. Die zweite Antwort: Geöffnete Artikel: Rückgabe nur bei Mängeln möglich (Zitat: Geöffnete Artikel dürfen nur zurückgegeben werden, wenn das Produkt mangelhaft ist). Wiedereinlagerungsgebühr: Nicht angegeben. Diese Antwort lässt sich in Sekunden mit dem Dokument abgleichen. Die offene Gebührenfrage geht an die für die Richtlinie verantwortliche Person, statt in einer Kunden-E-Mail zu landen.
Was sollten Mitarbeitende tun, wenn sie eine Halluzination erkennen?
Entfernen oder korrigieren Sie die falsche Aussage und prüfen Sie anschließend, ob sich bereits jemand darauf verlassen hat. War die Ausgabe nur ein Entwurf, korrigieren Sie sie und arbeiten Sie weiter. Halten Sie bei Ihrer Prüfung fest, dass das Werkzeug dieses Detail erfunden hat. Wurde die Ausgabe bereits versendet, geteilt oder für eine Entscheidung verwendet, informieren Sie die zuständige Person, damit sie die Aussage richtigstellen kann. Ändern Sie ein Dokument, das andere bereits gelesen haben, nicht stillschweigend.
Es hilft auch, Kollegen mitzuteilen, welche Arten von Fragen den Fehler ausgelöst haben. Ein Team, das Beispiele für Fehler austauscht, lernt schneller als eines, in dem jeder denselben Fehler für sich entdeckt. Die Schritt-für-Schritt-Methode zur Prüfung eines Entwurfs finden Sie im Leitfaden zur Faktenprüfung von KI-Ausgaben.
Wann ist eine schlechte KI-Antwort keine Halluzination?
Nicht jede schlechte Antwort ist eine Halluzination, und die passende Abhilfe ist jeweils eine andere. Gibt das Tool eine veraltete Antwort, weil sich die Informationen nach seinem Training geändert haben, brauchen Sie eine aktuelle Quelle. Gibt es eine verzerrte oder einseitige Antwort, geht es um Perspektive und Fairness statt um erfundene Inhalte. Führt eine vage Eingabe zu einem nachvollziehbaren, aber unerwünschten Ergebnis, hilft eine bessere Aufgabenbeschreibung. Und wenn jemand KI absichtlich zur Täuschung einsetzt, ist das eine Frage des Verhaltens, nicht der Schulung.
Dieser Leitfaden kann Ihnen auch nicht sagen, ob ein bestimmtes Werkzeug für eine konkrete Aufgabe mit weitreichenden Folgen sicher ist. Lassen Sie rechtliche, medizinische, finanzielle oder arbeitsbezogene Entscheidungen über Einzelpersonen fachkundig prüfen, unabhängig davon, wie das Ergebnis erstellt wurde.
Quellen und Geltungsbereich
NIST, KI 600-1: Risikoprofil für generative KI, Juli 2024 ↗
Kalai, Nachum, Vempala und Zhang, Warum Sprachmodelle halluzinieren, arXiv, 4 September 2025 ↗
Anthropic, Claude-Dokumentation: Halluzinationen reduzieren, abgerufen am 16 October 2026 ↗
Mata v. Avianca, Inc., 678 F.Supp.3d 443 (S.D.N.Y., 22 June 2023), Kopie bereitgestellt von CLLA ↗
Gmail-Hilfe, Mit Gemini in Gmail zusammenarbeiten, abgerufen am 16 October 2026 ↗