Warum reicht eine plausible Antwort nicht aus?
Eine plausibel klingende Antwort reicht nicht aus, denn generative KI kann eine falsche Aussage, einen erfundenen Quellenbeleg oder eine korrekte Tatsache im falschen Kontext liefern – alles im selben selbstsicheren Ton. Flüssige Formulierungen machen es leichter, diese Probleme zu übersehen. Das NIST-Profil für generative KI nennt Konfabulation als Risiko und führt unter den empfohlenen Maßnahmen die Prüfung und Verifizierung von Quellen und Quellenbelegen in KI-Ausgaben auf.
NIST weist außerdem darauf hin, dass KI-Ausgaben erfundene Begründungen oder Quellenangaben enthalten können, die die Antwort scheinbar rechtfertigen. Das kann dazu führen, dass Menschen ihr ungerechtfertigt vertrauen. Eine schlüssige Argumentationskette ist kein Beleg dafür, dass die Schlussfolgerung richtig ist. Der Leitfaden zu KI-Halluzinationen erklärt, warum das passiert; in diesem Leitfaden geht es um die Prüfroutine.
Welche Aussagen sollten Sie zuerst überprüfen?
Prüfen Sie zuerst die Aussagen, bei denen Fehler die schwerwiegendsten Folgen hätten, und diejenigen, die am ehesten erfunden sein könnten. Bei einem internen Entwurf mit geringem Risiko müssen Sie selten jedes Wort überprüfen, die Zahl in einem Kundenangebot dagegen immer. Die Tabelle hilft Ihnen, häufige Arten von Aussagen nach Prüfbedarf zu priorisieren. Passen Sie sie an die Arbeit und die Freigaberegeln Ihres Teams an.
| Art der Aussage | So prüfen Sie es | Wer entscheidet, ob es verwendet werden kann |
|---|---|---|
| Zahlen, Preise, Datumsangaben | Nachrechnen oder zum Originalbeleg zurückverfolgen | Die verfassende Person sowie eine zweite Person, wenn der Inhalt das Unternehmen verlässt |
| Zitate und Quellenangaben | Öffnen Sie die Quelle und suchen Sie die genaue Passage | Die verfassende Person |
| Namen, Titel, Organisationen | Eine offizielle Seite oder die Seite des Anbieters prüfen | Die verfassende Person |
| Aussagen über Ursachen | Fragen Sie, welche Belege die Aussage stützen würden; entfernen Sie sie, wenn es keine gibt | Die verfassende Person und die für die Entscheidung verantwortliche Person |
| Rechtliche, finanzielle, sicherheitsbezogene oder arbeitsrechtliche Aspekte | Primärquelle plus qualifizierte prüfende Person | Eine fachlich qualifizierte Person, nicht nur die verfassende Person selbst |
Wie sollten Sie einen Quellenverweis prüfen?
Öffnen Sie die tatsächliche Quelle und suchen Sie die Passage, die die Aussage belegt. Prüfen Sie den Autor oder Herausgeber, das Datum, den Geltungsbereich und etwaige Einschränkungen. Ein echter Link reicht nicht aus, wenn die Seite eine andere Bevölkerungsgruppe, einen anderen Zeitraum oder eine andere Fragestellung behandelt. Dokumentieren Sie die Quelle, damit eine andere Person die Prüfung wiederholen kann.
Wenn Sie die belegende Textstelle nicht finden, bitten Sie das Modell nicht nur, seine eigene Quellenangabe zu bestätigen, und belassen es dabei. Fordern Sie den fehlenden Beleg an, entfernen Sie die Aussage oder kennzeichnen Sie sie als ungeklärt. Ein zweites Modell kann Fragen vorschlagen, aber die Übereinstimmung zweier Modelle ist keine unabhängige Überprüfung. Beide könnten denselben plausibel klingenden Fehler gelernt haben.
Wie prüfen Sie die Zahlen und die Argumentation?
Berechnen Sie wichtige Zahlen anhand der bereitgestellten Daten mit einer unabhängigen Methode neu, etwa mit einer Formel, einer Pivot-Tabelle oder einem Taschenrechner. Prüfen Sie Einheiten, Zeitraum und Vergleichsbasis. Eine Summe kann stimmen, während die Erklärung für ihre Veränderung nicht belegt ist. Trennen Sie deshalb die Berechnung von jeder Aussage über Ursachen.
In einer fiktiven Tabelle steigt der Umsatz von 80 auf 92 Einheiten und die Kosten von 50 auf 61 Einheiten. Die Veränderungen betragen 12 und 11 Einheiten, sodass die Marge von 30 auf 31 Einheiten steigt. Die Tabelle allein erklärt nicht, ob ein neuer Kunde, eine Preisänderung oder zeitliche Verschiebungen die Veränderung verursacht haben. Eine verantwortungsvolle Zusammenfassung nennt die Veränderung und lässt die Ursache offen oder benennt die Belege, mit denen sie sich klären ließe. Achten Sie auch darauf, ob Prozent und Prozentpunkte verwechselt werden. Das kommt in generierten Zusammenfassungen häufig vor.
Möchten Sie sehen, wie das mit einer bestimmten Rolle zusammenhängt?
Geplante Testphase für Teams entdecken ↗Wie überprüfen Sie die Fakten in einer KI-Zusammenfassung eines Dokuments?
Prüfen Sie bei einer KI-Zusammenfassung sowohl, was sie aussagt, als auch, was sie auslässt. Wählen Sie zunächst drei oder vier Aussagen aus der Zusammenfassung aus und suchen Sie jede davon im Original. Lesen Sie dann die Überschriften oder die ersten Zeilen jedes Abschnitts im Original und fragen Sie sich, ob etwas Wichtiges fehlt. Achten Sie abschließend auf entfallene Einschränkungen: Aus könnte wird wird, aus in manchen Fällen wird immer, vorbehaltlich der Genehmigung verschwindet ganz.
Wenn die Zusammenfassung als Entscheidungsgrundlage dienen soll, bitten Sie das Tool vor dem Zusammenfassen, für jeden Punkt Zitate bereitzustellen. Die Dokumentation von Anthropic für Claude empfiehlt dieses Vorgehen bei langen Dokumenten und rät außerdem dazu, das Tool aufzufordern, alle Aussagen zu entfernen, die es nicht mit einem Zitat belegen kann. So lässt sich die Zusammenfassung schneller prüfen. Sie müssen die Zitate aber weiterhin mit der jeweiligen Seite abgleichen.
Wie sieht eine vollständige Faktenprüfung aus?
Hier ist ein absichtlich fehlerhafter Entwurf zum Üben. Eine fiktive Agentur, Kestrel Studio, bat einen KI-Assistenten, das bereitgestellte Produktbriefing eines Kunden in einem Absatz für eine Präsentation zusammenzufassen. Laut Briefing wurde die Planungs-App des Kunden im März 2025 eingeführt, bietet einen kostenlosen und einen kostenpflichtigen Tarif, und eine Umfrage unter 200 eigenen Nutzern ergab, dass die meisten sie wöchentlich nutzten.
KI-Entwurf: Die Anfang 2024 eingeführte App hat sich schnell zu einer der beliebtesten Planungs-Apps im Vereinigten Königreich entwickelt. Eine aktuelle unabhängige Umfrage zeigt, dass 85 Prozent der Nutzer sie täglich öffnen. Sie bietet eine kostenlose und eine kostenpflichtige Premium-Version.
Die Prüfung, Aussage für Aussage. Markteinführung: Im Arbeitsauftrag steht März 2025, daher ist Anfang 2024 falsch. Einer der beliebtesten Planer im Vereinigten Königreich: Dafür gibt es im Arbeitsauftrag keinen Beleg, also streichen. Aktuelle unabhängige Umfrage: Der Arbeitsauftrag beschreibt eine eigene Nutzerumfrage des Kunden, daher ist „unabhängig“ falsch. 85 Prozent täglich: Im Arbeitsauftrag steht, dass die meisten ihn wöchentlich nutzten, also sind sowohl die Zahl als auch die Häufigkeit erfunden. Kostenlose und kostenpflichtige Tarife: belegt.
Geprüfter Absatz: Die im März 2025 eingeführte App bietet eine kostenlose und eine kostenpflichtige Tarifstufe. In einer eigenen Umfrage des Kunden unter 200 Nutzern gab die Mehrheit an, die App wöchentlich zu nutzen. Die Prüfnotiz führt vier Korrekturen und eine entfernte Behauptung auf. Die für das Kundenkonto verantwortliche Person gibt die Präsentation frei, bevor sie an den Kunden geht.
Kann KI Ihnen helfen, ihre eigenen Ausgaben auf Fakten zu prüfen?
KI kann helfen, einen Faktencheck zu strukturieren, ihn aber nicht vollständig durchführen. Nützliche Anweisungen sind zum Beispiel: Listen Sie jede Tatsachenbehauptung in diesem Entwurf in einer nummerierten Liste auf; zitieren Sie für jede Behauptung den Satz aus der beigefügten Quelle, der sie belegt, oder schreiben Sie „Nicht belegt“; und kennzeichnen Sie jede Zahl, die nicht in der Quelle vorkommt. So wird aus einem Absatz eine Prüfliste.
Was KI nicht leisten kann, ist eine unabhängige Prüfung. Wenn Sie dasselbe Werkzeug fragen, ob seine Antwort richtig ist, erhalten Sie meist eine Bestätigung. Dieselbe Frage mehrmals zu stellen und die Antworten zu vergleichen – ein Verfahren, das Anthropic in seiner Dokumentation beschreibt –, kann Widersprüche aufdecken. Doch auch übereinstimmende Antworten können durchweg falsch sein. Der letzte Schritt ist immer, die Quelle zu öffnen oder die Zahl nachzurechnen.
Was sollte die Dokumentation der Prüfungen enthalten?
Halten Sie die ursprüngliche Aussage, die zur Prüfung verwendete Quelle oder Berechnung, die Korrektur und alle noch offenen Fragen fest. Benennen Sie die Person, die darüber entscheidet, ob das Ergebnis für den vorgesehenen Zweck geeignet ist. Diese Dokumentation macht die Prüfung nachvollziehbar, ohne vorzugeben, dass alle Risiken beseitigt sind.
Für eine nachvollziehbare Dokumentation der Prüfung ist keine spezielle Software nötig. Für die meisten internen Arbeiten reicht eine kurze Notiz am Dokumentende oder ein Kommentarverlauf. Halten Sie bei Ergebnissen für Kunden Ihren üblichen Freigabeprozess ein; KI-Unterstützung ändert nicht, wer die Freigabe erteilt.
Wann reicht diese Checkliste nicht aus?
Diese Checkliste ist eine betriebliche Routine, keine Bestätigung der Richtigkeit. Sie reicht nicht aus für Rechtsberatung, Meldungen an Aufsichtsbehörden, medizinische oder sicherheitsbezogene Informationen, geprüfte Finanzzahlen oder Entscheidungen über das Beschäftigungsverhältnis einer Person. Dafür sind eine fachkundige Prüfung und die Primärquellen erforderlich, unabhängig davon, welches Werkzeug den Entwurf erstellt hat.
Es kann auch mehr sein, als Sie brauchen. Eine Ideensammlung, Vorschläge für eine Tagesordnung oder ein grober erster Entwurf, den nur Sie lesen werden, erfordern selten eine Prüfung jeder einzelnen Aussage. Richten Sie die Prüftiefe danach aus, welche Folgen ein Fehler hätte.
Quellen und Geltungsbereich
NIST, KI 600-1: Risikoprofil für generative KI, Juli 2024 ↗
Anthropic, Claude-Dokumentation: Halluzinationen reduzieren, abgerufen am 16 October 2026 ↗