Wofür steht die Abkürzung RAG?

RAG steht für Retrieval-Augmented Generation, auf Deutsch etwa „abrufgestützte Erzeugung“. Ein Sprachmodell wird dabei um einen Abrufschritt ergänzt, der vor der Antwort passende Informationen aus einer Wissensquelle holt.

Ist RAG dasselbe wie ein Sprachmodell?

Nein. Das Sprachmodell ist nur ein Teil eines RAG-Systems. RAG kombiniert ein Sprachmodell mit einer Suche über Ihre eigenen Dokumente. Zuerst werden relevante Inhalte abgerufen, dann formuliert das Modell die Antwort auf dieser Grundlage.

Wozu braucht man RAG?

RAG verbindet ein allgemeines Sprachmodell mit aktuellem, unternehmensspezifischem Wissen. So lassen sich Fragen zu eigenen Dokumenten beantworten, Antworten mit Quellen belegen und das Risiko erfundener Aussagen senken — ohne ein eigenes Modell zu trainieren.

Wissen · Aktualisiert: 4. Juni 2026

Was ist RAG? Retrieval-Augmented Generation einfach erklärt

Eine kompakte, verständliche Antwort auf die Frage „Was ist RAG?“ — mit Definition, Funktionsweise und einem praktischen Beispiel.

Von Slava Spitsyn · AI Builder · Redaktionelle Grundsätze (englisch)

RAG (Retrieval-Augmented Generation) ist eine Technik, bei der ein KI-Sprachmodell vor jeder Antwort zunächst passende Informationen aus einer externen Wissensquelle abruft und seine Antwort anschließend auf diesen abgerufenen Inhalten aufbaut. Statt sich allein auf das beim Training gelernte Wissen zu verlassen, arbeitet das Modell mit konkreten, aktuellen Dokumenten — etwa Ihren eigenen Handbüchern, Richtlinien oder Produktdaten. Das macht Antworten aktueller, an Ihren Daten orientiert und mit Quellen belegbar.

Der Begriff setzt sich aus zwei Teilen zusammen: Retrieval (das Abrufen relevanter Informationen) und Generation (das Erzeugen einer Antwort durch das Sprachmodell).

Wie funktioniert RAG?

RAG läuft vereinfacht in drei Schritten ab:

Frage verstehen und suchen. Die Frage des Nutzers wird in eine durchsuchbare Form übersetzt (einen sogenannten Vektor) und mit einem Wissensspeicher abgeglichen, in dem die Dokumente ebenfalls in dieser Form abgelegt sind.
Relevante Stellen abrufen. Das System holt die inhaltlich am besten passenden Textabschnitte heraus — nicht ganze Dokumente, sondern gezielt die Passagen, die zur Frage gehören.
Antwort erzeugen. Diese Passagen werden zusammen mit der ursprünglichen Frage an das Sprachmodell übergeben. Das Modell formuliert daraus eine zusammenhängende Antwort und kann dabei auf die genutzten Quellen verweisen.

Wozu dient RAG?

RAG schließt die Lücke zwischen einem allgemein gebildeten Sprachmodell und dem spezifischen Wissen einer Organisation. Typische Einsatzzwecke:

Wissensassistenten, die Fragen zu internen Dokumenten beantworten.
Kundensupport, der auf der aktuellen Produktdokumentation aufsetzt.
Recherche- und Analysehilfen, die in großen Dokumentbeständen die passenden Stellen finden.

Der zentrale Vorteil: Ihr Wissen bleibt aktualisierbar. Ändert sich ein Dokument, aktualisieren Sie den Wissensspeicher — das Modell selbst muss nicht neu trainiert werden.

Ein einfaches Beispiel

Stellen Sie sich ein Unternehmen mit einem 200-seitigen Mitarbeiterhandbuch vor. Eine Mitarbeiterin fragt: „Wie viele Urlaubstage stehen mir nach drei Jahren Betriebszugehörigkeit zu?“

Ein reines Sprachmodell würde raten — es kennt Ihr Handbuch nicht. Ein RAG-System hingegen durchsucht zunächst das Handbuch, findet den passenden Abschnitt zur Urlaubsregelung und gibt diesen an das Modell weiter. Die Antwort basiert dann auf der tatsächlichen Richtlinie und kann auf die konkrete Handbuchstelle verweisen.

Mehr erfahren

Dieser Beitrag erklärt RAG im Überblick. Wie ein RAG-System für den Unternehmenseinsatz aufgebaut wird, welche Architektur dahintersteckt und welche Rolle Datenschutz und EU-Infrastruktur spielen, lesen Sie im ausführlichen Leitfaden RAG für Unternehmenswissen.