RAG (Retrieval Augmented Generation): Definition und Nutzen
Warum der Begriff zählt
Ein Sprachmodell allein kennt nur, was in seinen Trainingsdaten stand, und erfindet im Zweifel plausibel klingende Antworten. RAG dreht das um. Das Modell arbeitet wie ein Mitarbeiter, der vor der Antwort erst im Handbuch nachschlägt, statt aus dem Gedächtnis zu raten. Für Unternehmen entscheidet dieser Ansatz oft darüber, ob ein Assistent überhaupt in den Betrieb darf, weil jede Aussage auf eine nachvollziehbare Quelle zeigt.
Wann es relevant ist
- Deine Antworten müssen auf internem Wissen beruhen, etwa Handbüchern, Verträgen oder Tickets.
- Die Inhalte ändern sich laufend und ein Nachtrainieren des Modells wäre zu träge.
- Nachvollziehbarkeit ist Pflicht, jede Antwort soll ihre Quelle zeigen können.
- Du willst kein sensibles Wissen ins Modell einbrennen, sondern kontrolliert bereitstellen.
Wann nicht
Wenn die Aufgabe reines Sprachgefühl braucht, etwa das Umschreiben eines Textes im Firmenton, hilft externes Wissen wenig und Fine-Tuning passt besser. Und wenn deine Wissensbasis unstrukturiert, veraltet oder widersprüchlich ist, verstärkt RAG diese Mängel nur. Dann steht am Anfang eine Aufräumarbeit an den Quellen, nicht der Bau der Suche.
Branchen, die das nutzen
- Versicherungen: Sachbearbeiter fragen Tarifwerke und Bedingungen ab und bekommen Antworten mit Verweis auf die genaue Klausel.
- Anlagenbau: Servicetechniker durchsuchen Wartungshandbücher und Ersatzteillisten im Feld, statt PDF-Ordner zu wälzen.
- Kanzleien und Steuerberatung: Recherche in Mandatsakten und Gesetzestexten mit klarer Fundstelle für jede Aussage.
- Öffentliche Verwaltung: Auskünfte zu Verfahren und Richtlinien, die auf der jeweils gültigen Fassung beruhen.
Typische Anwendungsfälle
- Ein interner Assistent, der Fragen zu Produkten und Prozessen aus der Wissensdatenbank beantwortet.
- Ein Support-Werkzeug, das Antwortentwürfe aus früheren Tickets und der Doku zieht.
- Eine Vertragsprüfung, die relevante Passagen findet und mit Fundstelle zusammenfasst.
- Ein Onboarding-Helfer, der neuen Mitarbeitenden Richtlinien mit Quellenlink erklärt.
- Eine Angebotsunterstützung, die technische Spezifikationen aus dem Produktkatalog zieht.
Entscheidungshilfe
| Signal | RAG passt | Alternative |
|---|---|---|
| Antwort muss auf internen Quellen beruhen | RAG mit Wissensbasis und Quellenlink | Modell ohne Anbindung genügt nicht |
| Inhalte ändern sich häufig | RAG, Quelle aktualisieren reicht | Fine-Tuning wäre zu langsam |
| Stil und Ton sollen sich ändern | eher nicht | Fine-Tuning oder Prompt Engineering |
| Wissensbasis ist chaotisch | erst Quellen ordnen | Datenaufbereitung vor dem Bau |
Beispiel
Ein Anlagenbauer will Servicetechnikern schnelleren Zugriff auf Wartungswissen geben. Im Workshop wählt das Team einen engen Ausschnitt, etwa eine Maschinenreihe, und baut in wenigen Tagen einen Prototyp auf den echten Handbüchern. Getestet wird mit realen Feldfragen, auch mit Fällen, bei denen mehrere Dokumente widersprechen. Erst nach diesem Test entscheidet das Team über den Ausbau. Das Beispiel beschreibt die Vorgehensweise, keine behauptete Kundenkennzahl.
Verbindung zu Services
Der Einstieg ist meist der KI-Workshop, in dem der Use-Case eng geschnitten wird, danach KI-Entwicklung und KI-Implementierung.
Quellen
Diese Einordnung beschreibt gängige Praxis beim Bau von Wissensassistenten. Konkrete Architektur, Rechte und Datenschutz hängen vom Projekt und den gewählten Systemen ab und sollten dort geprüft werden.