Was RAG ist
Retrieval Augmented Generation, kurz RAG, verbindet zwei Schritte: das Abrufen relevanter Dokumente und das Erzeugen einer Antwort. Statt sich allein auf das Trainingswissen zu verlassen, erhält das Sprachmodell zusätzlich ausgewählte Textstellen, die zur Frage passen. Auf diese stützt es seine Antwort.
Die Quellen können Webseiten, interne Dokumente oder Datenbanken sein. Dadurch lassen sich aktuelle oder spezielle Informationen nutzen, die das Modell im Training nicht gesehen hat.
Wie es funktioniert
Zuerst werden Dokumente in Abschnitte zerlegt und so aufbereitet, dass sich ihre inhaltliche Nähe zu einer Frage berechnen lässt, oft mit sogenannten Embeddings. Bei einer Anfrage sucht das System die passendsten Abschnitte heraus. Diese werden zusammen mit der Frage an das Sprachmodell übergeben, das daraus die Antwort formuliert und häufig Quellen angibt.
Viele KI-Suchsysteme arbeiten nach diesem Prinzip: Sie holen Webseiten ab und fassen sie zusammen. Wie genau Anbieter auswählen und gewichten, ist nicht vollständig bekannt.
Bedeutung für Websites
Wenn Antworten auf abgerufenen Seiten beruhen, entscheidet auch die Auffindbarkeit und Verständlichkeit der eigenen Inhalte, ob sie herangezogen werden. Klare Gliederung, präzise Definitionen, belegte Aussagen und crawlbare Seiten erleichtern die Auswahl einzelner Abschnitte. Das ist eine plausible, aber keine garantierte Wirkungskette.
Für Anbieter, die in KI-Antworten genannt werden wollen, kommt RAG daher eine zentrale Rolle zu. Dienstleistungen rund um GEO setzen an dieser Stelle an, indem sie Inhalte und Erwähnungen so aufbauen, dass sie abrufbar und zitierfähig sind.
Vorteile und Grenzen
RAG kann Aktualität erhöhen und das Risiko von Falschaussagen verringern, beseitigt es aber nicht. Wenn die abgerufene Quelle falsch ist oder falsch interpretiert wird, entsteht trotzdem ein fehlerhaftes Ergebnis. Zum Problem erfundener Aussagen siehe KI-Halluzination. Ein häufiger Irrtum besteht darin, RAG mit dem Nachtrainieren eines Modells gleichzusetzen. Beim Nachtrainieren ändern sich die Modellgewichte, bei RAG nicht.