Glossareintrag
Wir denken. KI tippt mit.
RAG (Retrieval-Augmented Generation, auf Deutsch etwa „abruferweiterte Generierung“) ist eine Technik, bei der eine KI vor dem Antworten in einer angeschlossenen Wissensquelle nachschlägt, zum Beispiel in den Dokumenten Ihres Betriebs. Das Large Language Model verlässt sich dann nicht mehr allein auf sein antrainiertes Wissen, sondern bekommt die passenden Textstellen aus Ihren Unterlagen mitgeliefert und stützt seine Antwort darauf, oft samt Quellenangabe.
Geprägt wurde der Begriff 2020 von einem Forscherteam um Patrick Lewis bei Facebook AI Research (heute Meta) im Paper „Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks". Inzwischen steckt das Prinzip in vielen Alltagswerkzeugen, von der Websuche in ChatGPT bis zur Firmen-Wissensdatenbank, die Fragen aus Preislisten und Wartungsanleitungen beantwortet.
RAG kombiniert zwei Arbeitsschritte, das Suchen (Retrieval) und das Formulieren (Generation). Stellen Sie sich einen erfahrenen Mitarbeiter vor, der vor jeder Auskunft erst im richtigen Aktenordner nachschlägt, statt aus dem Gedächtnis zu antworten. Genau das macht ein RAG-System, nur in Sekunden.
Technisch läuft das in drei Schritten ab:
Damit packt RAG die zwei größten Schwächen von Sprachmodellen an. Ein Modell kennt erstens nur seine Trainingsdaten bis zu einem bestimmten Stichtag (dem Wissens-Cutoff) und weiß nichts über Ihren Betrieb, Ihre Preise oder Ihre Abläufe. Zweitens erfinden Sprachmodelle bei Wissenslücken überzeugend klingende Falschangaben, sogenannte Halluzinationen. Mit nachprüfbaren Textstellen als Grundlage sinkt diese Fehlerquote deutlich, und die Antwort kann belegen, aus welchem Dokument sie stammt.
Ganz verschwinden Halluzinationen dadurch aber nicht. Findet die Suche die falschen oder gar keine passenden Stellen, formuliert das Modell trotzdem eine Antwort. Und wer veraltete Preislisten oder schlecht eingescannte Unterlagen einspeist, bekommt sauber formulierte Antworten auf falscher Grundlage. Die Qualität der Wissensbasis entscheidet über die Qualität der Antworten.
Zur Einordnung gegenüber verwandten Ansätzen hilft eine einfache Faustregel. Fine-Tuning trainiert das Modell selbst nach und eignet sich für Stil und Verhalten, RAG liefert dagegen Fakten und ist die erste Wahl, wenn sich das Wissen laufend ändert. Für eine Handvoll Dokumente braucht es gar kein RAG, denn moderne Modelle haben große Kontextfenster, da hängt man die Dateien einfach an die Frage an. Und die Websuche in ChatGPT oder Claude ist im Kern dasselbe Prinzip, nur mit dem offenen Internet als Wissensquelle statt Ihrer eigenen, geprüften Dokumente.
Wirtschaftlich ist RAG längst ein eigener Markt. Die Marktforscher von Grand View Research bezifferten ihn für 2024 auf 1,2 Milliarden US-Dollar und erwarten bis 2030 rund 11 Milliarden.
Für lokale Unternehmen und Handwerksbetriebe ist RAG der Weg, aus verstreuten Dokumenten eine auskunftsfähige Wissensdatenbank zu machen. Drei Szenarien zeigen, was damit praktisch möglich ist.
Das Beste daran ist, dass Sie dafür keine eigene Technik aufbauen müssen. Mit Google NotebookLM probieren Sie RAG kostenlos aus. Sie laden bis zu 50 Quellen pro Notizbuch hoch (PDFs, Websites, Videos), und das Tool stützt jede Antwort auf Ihre Quellen und belegt sie mit Zitaten. In Claude übernehmen das die Projekte. Wird die hochgeladene Wissensbasis zu groß für das Kontextfenster, schaltet Claude laut offizieller Anthropic-Dokumentation automatisch in einen RAG-Modus und durchsucht die Dokumente gezielt. Auch ChatGPT nutzt bei hochgeladenen Dateien in Projekten und eigenen GPTs eine Dateisuche nach demselben Prinzip, wie OpenAIs Hinweise zum Datei-Upload in ChatGPT zeigen. Die Bezahlversionen beider Anbieter kosten rund 20 US-Dollar im Monat, einen ausführlichen Vergleich finden Sie im Beitrag Claude vs ChatGPT 2026. Wer mit Microsoft 365 arbeitet, hat mit der Zusatzlizenz für Copilot bereits ein RAG-System im Haus, denn der Assistent durchsucht die eigenen Dateien in SharePoint, OneDrive und Teams, wie Microsofts Architektur-Dokumentation zu Microsoft 365 Copilot beschreibt.
Prüfen Sie vor einem Projekt ehrlich, ob Sie RAG überhaupt brauchen. Geht es nur um ein paar PDFs, reicht es völlig, die Dateien direkt an den Chat anzuhängen. RAG lohnt sich, sobald die Dokumentenmenge dafür zu groß wird oder mehrere Personen dauerhaft auf denselben Wissensstand zugreifen sollen. Fertige Tools kosten dafür als grobe Hausnummer zwischen null und gut 30 US-Dollar pro Nutzer und Monat. Ein individuell entwickelter RAG-Chatbot mit eigener Datenbank ist dagegen ein Projekt für einen IT-Dienstleister und spielt preislich in einer anderen Liga.
Ein Punkt gehört bei Firmendaten immer dazu, der Datenschutz. Kundennamen, Adressen und Vertragsdaten haben in kostenlosen KI-Tools nichts verloren. Nutzen Sie für die Wissensdatenbank Bezahl- oder Business-Versionen, bei denen die Anbieter vertraglich zusichern, dass Ihre Inhalte nicht zum Training verwendet werden, und klären Sie bei Individualprojekten, wo die Dokumente gespeichert liegen.
