RAG (Retrieval-Augmented Generation)

RAG verbindet den Abruf von Informationen mit der Generierung einer Antwort. Ein System sucht passende Inhalte aus einer Datenquelle und stellt sie einem Sprachmodell als Kontext bereit. Die Qualität hängt sowohl vom Abruf als auch von der Verarbeitung dieser Inhalte ab.

RAG (Retrieval-Augmented Generation) im Detail

Der Ansatz ist hilfreich, wenn eine Antwort auf bestimmten Dokumenten oder Daten beruhen soll. Die Quellen können intern oder öffentlich sein. Sie sind dadurch weder automatisch aktuell noch korrekt: Beides hängt von ihrer Pflege und Auswahl ab.

Praktisch entstehen mehrere Aufgaben: Dokumente sinnvoll erschließen, passende Fundstellen suchen, Zugriffsrechte beachten und die Antwort auf diese Fundstellen beziehen. Eine Vektorsuche ist eine mögliche Abrufmethode. Auch eine Stichwortsuche oder eine Kombination verschiedener Verfahren kann relevant sein.

Fehler können an jeder Stelle entstehen. Die Suche findet vielleicht die falsche Produktversion; eine wichtige Einschränkung fehlt im ausgewählten Ausschnitt; das Modell zieht eine nicht gedeckte Schlussfolgerung. Ein Quellenlink allein verhindert diese Fehler nicht. Deshalb sollten Abrufqualität und Antworttreue getrennt geprüft werden.

Für den Betrieb braucht es klare Zuständigkeiten: Wer pflegt die Dokumente, wie werden Änderungen übernommen und was geschieht, wenn keine passende Quelle gefunden wird? Eine transparente Rückfrage oder eine Übergabe an eine Fachperson kann dann sinnvoller sein als eine scheinbar vollständige Antwort.

Beispiele

Hypothetisches Anwendungsbeispiel

Ein interner Assistent soll Fragen zu freigegebenen Produktunterlagen beantworten. Bei einer Anfrage findet er zwei abweichende Versionsstände. Statt Werte zu vermischen, nennt der Entwurf den Konflikt und verweist auf die zuständige Fachperson. Das Team prüft solche Fälle gezielt im Test.

Wichtige Punkte

Abruf und Antwortgenerierung getrennt bewerten.
Quellen müssen gepflegt und passend berechtigt sein.
Fehlende Belege als eigenen Fall behandeln.

Anwendung im Marketing-Alltag

Ein repräsentatives Fragenset gegen freigegebene Dokumente testen und Abruffehler von Antwortfehlern unterscheiden.

Sinnvolle Messgrößen

Relevante Fundstellen

Liefert der Abruf die für eine Testfrage benötigten Informationen?

Quellentreue

Sind die Aussagen durch die tatsächlich bereitgestellten Quellen gedeckt?

Häufige Fehler

Jede abgerufene Quelle als aktuell und richtig behandeln.
Berechtigungen erst nach dem Abruf prüfen.

Quellen und Einordnung

Lewis et al.: Retrieval-Augmented Generation
Forschungsarbeit zur Verbindung von Abruf und Textgenerierung.

Häufige Fragen zu RAG (Retrieval-Augmented Generation)

Nein. Ungeeignete Fundstellen und nicht gedeckte Schlussfolgerungen bleiben möglich. RAG schafft einen Weg, Quellen einzubeziehen und zu prüfen.

Begriffsempfehlungen werden geladen…

Alle Begriffe

RAG (Retrieval-Augmented Generation)

RAG (Retrieval-Augmented Generation) im Detail