Welches Problem löst RAG?
RAG löst das Problem, dass ein KI-Modell die Dokumente Ihrer Organisation nicht kennt oder nur über veraltetes Wissen verfügt. Statt das Modell neu zu trainieren, stellen Sie ihm die passenden Textpassagen bereit, während es antwortet.
Stellen Sie sich den fiktiven Reiseveranstalter Tidewater Travel mit 50 Beschäftigten vor. Das Buchungsteam stellt immer wieder dieselben Fragen zu einem 90-seitigen Handbuch mit Bedingungen und Verfahrensregeln. Der Teamleiter Leon hat einen allgemeinen Chatbot ausprobiert: 'Kann ein Kunde 10 Tage vor der Abreise den Namen des Hauptreisenden ändern, und fällt dafür eine Gebühr an?' Der Chatbot gab eine selbstsichere, allgemeine Antwort zu Fluggesellschaftsregeln und einer Gebühr, die Tidewater gar nicht erhebt. Die tatsächliche Antwort steht in Abschnitt 4.2 des Handbuchs, das der Chatbot nie gesehen hat.
Wie funktioniert abrufgestützte Generierung?
Die durch Informationsabruf unterstützte Generierung funktioniert in drei Schritten: Zuerst werden die für die Frage relevantesten Textstellen abgerufen und der Eingabe hinzugefügt. Anschließend erzeugt das Modell daraus eine Antwort. Das Glossar von Anthropic beschreibt denselben Ansatz: Zum Zeitpunkt der Anfrage werden relevante Informationen aus einer Wissensdatenbank abgerufen und zusammen mit der ursprünglichen Frage an das Modell übergeben.
Der Begriff stammt aus einer Forschungsarbeit von Patrick Lewis und Kollegen aus dem Jahr 2020. Sie kombinierten ein Sprachmodell mit einem durchsuchbaren Dokumentenindex und stellten fest, dass die Antworten konkreter und sachlich fundierter waren als die des Modells allein.
1. Bereiten Sie die Dokumente vor
Das Handbuch wird in kleinere Abschnitte aufgeteilt, etwa jeweils ein Kapitel oder einige Absätze. So kann eine Suche eine gezielte Textpassage statt des gesamten Handbuchs zurückgeben.
2. Indexieren Sie sie nach ihrer Bedeutung
Jeder Textabschnitt wird in ein Embedding umgewandelt, eine Liste von Zahlen, die seine Bedeutung darstellt, und in einer Vektordatenbank gespeichert. AWS beschreibt diesen Schritt als Umwandlung von Daten in numerische Darstellungen, damit sie Fragen zugeordnet werden können.
3. Rufen Sie Informationen ab
Die Frage wird auf dieselbe Weise umgewandelt und mit dem Index abgeglichen, um die ähnlichsten Textabschnitte zu finden. Viele Systeme nutzen daneben auch eine herkömmliche Stichwortsuche.
4. Ergänzen Sie die Eingabe um Kontext
Die am höchsten bewerteten Textabschnitte werden mit einer Anweisung wie 'Antworten Sie ausschließlich anhand dieser Passagen und nennen Sie den jeweiligen Abschnitt als Quelle' in die Eingabe aufgenommen.
5. Generieren Sie das Ergebnis
Das Modell formuliert die Antwort anhand des bereitgestellten Textes und zitiert dabei idealerweise die verwendeten Passagen oder verweist auf sie.
Wie sieht eine Antwort mit und ohne RAG aus?
Ohne RAG: 'Die meisten Reiseunternehmen erlauben Namensänderungen gegen eine Gebühr von etwa 50 bis 100 pro Person, abhängig von den Bestimmungen der Fluggesellschaft.' Das klingt hilfreich, entspricht aber nicht den Richtlinien von Tidewater, und niemand kann überprüfen, woher die Aussage stammt.
Mit RAG: Das System ruft Abschnitt 4.2 und Abschnitt 4.5 des Handbuchs ab, und das Modell antwortet: 'Ja. Abschnitt 4.2 erlaubt eine kostenlose Änderung des Namens des Hauptreisenden bis zu 7 Tage vor der Abreise. Laut Abschnitt 4.5 können bei Pauschalreisen mit Flug die eigenen Änderungsgebühren der Fluggesellschaft anfallen, die im Buchungssystem angezeigt werden. Quelle: Handbuch, Abschnitte 4.2 und 4.5.' Leon kann beide Abschnitte öffnen und die Antwort in Sekunden überprüfen. Wenn sich das Handbuch ändert, ändert sich die Antwort, sobald die neue Version indexiert ist.
Wann sollten Sie RAG einsetzen und wann nicht?
Verwenden Sie RAG, wenn Antworten aus einem bestimmten, sich verändernden Dokumentenbestand stammen müssen und die Quellen sichtbar sein sollen. Es eignet sich für Richtlinienhandbücher, Produktdokumentationen, Support-Wissensdatenbanken und Vertragssammlungen. Das Glossar von Anthropic weist darauf hin, dass es besonders für aktuelle Informationen, Fachwissen und ausdrückliche Quellenangaben nützlich ist.
RAG ist nicht die richtige Lösung, wenn die Dokumente klein genug sind, um sie direkt in die Eingabe einzufügen, wenn es bei der Aufgabe um Stil oder Format statt um Fakten geht oder wenn die Quelldokumente selbst unzuverlässig sind. RAG ersetzt auch keine Zugriffsberechtigungen: Wird eine Passage abgerufen, kann das Modell sie wiedergeben. Deshalb müssen Zugriffskontrollen bereits vor dem Abruf greifen.
Was kann bei der abrufgestützten Generierung schiefgehen?
Bei RAG entstehen Fehler meist beim Abruf und nicht bei der Generierung: Wird die falsche Passage gefunden, formuliert das Modell daraus eine selbstsichere Antwort. Anthropic weist darauf hin, dass die Wirksamkeit von RAG von der Qualität und Relevanz der Wissensbasis und der abgerufenen Inhalte abhängt.
Falscher oder unvollständiger Textabschnitt
Die Passage mit der Ausnahme liegt in einem anderen Textabschnitt als die Regel. Deshalb fehlt die Ausnahme in der Antwort.
Veraltete oder doppelte Versionen
Das Handbuch vom letzten Jahr ist weiterhin neben der diesjährigen Ausgabe indexiert, und die alte Ausgabe wird abgerufen.
Modell weicht vom Text ab
Das Modell vermischt abgerufene Texte mit seinem allgemeinen Wissen. Die Anweisung, nur auf Grundlage der Quellen zu antworten, und sichtbare Quellenangaben machen dies leichter erkennbar.
Es gibt keine gute Antwort
Das System sollte sagen, dass die Dokumente die Frage nicht abdecken, statt zu raten.
Wo ist RAG im Katalog von Tosheo.ai eingeordnet?
„Abrufgestützte Generierung“ gehört zur Kategorie „KI-Anwendungen entwickeln“ im gleichnamigen Kurs. Diese Lektion vermittelt die Grundlagen für alle, die mit KI-Assistenten auf Basis von Unternehmensdokumenten arbeiten. Im Programmierpfad nach der Anmeldung entwickeln Sie praktisch eine kleine RAG-Anwendung – vom Aufteilen der Dokumente und Erstellen von Einbettungen bis zum Informationsabruf und zu Antworten mit Quellenangaben. Zu jedem Schritt erhalten Sie Rückmeldung anhand des Bewertungsleitfadens.
Quellen und Geltungsbereich
Anthropic Claude-Dokumentation, Glossareintrag zu RAG (geprüft am 19 October 2026) ↗
Anthropic Claude-Dokumentation, Funktion für Quellenverweise (geprüft am 19 October 2026) ↗