RAG für Firmenwissen: KI-Suche mit Quellen und Zugriffsrechten

Was RAG zusätzlich zur Suche leistet

Retrieval-Augmented Generation (RAG) bedeutet: passende Dokumentstellen suchen und sie einem Sprachmodell als Grundlage für eine Antwort geben. Eine gewöhnliche Suche liefert Treffer, die Sie selbst lesen und zusammenführen. Im Beispiel verbindet die Assistenz die Reservierungsregel mit dem Abholort aus einem zweiten Dokument. Beide Fundstellen müssen aus der Antwort erreichbar bleiben.

RAG trainiert das Modell dafür nicht mit den Firmenunterlagen neu. Die gefundenen Texte werden bei der jeweiligen Anfrage bereitgestellt. Der Nutzen liegt in der verständlichen Zusammenführung; dabei kann das Modell Informationen auslassen oder falsch verbinden. Wer nur ein bekanntes Formular sucht, braucht diesen zusätzlichen Schritt möglicherweise nicht.

Vor der Frage: Dokumente auffindbar machen

Das System liest freigegebene Unterlagen ein und teilt längere Texte in durchsuchbare Abschnitte. Jeder Abschnitt braucht den Bezug zu Titel, Version, Originalstelle und Zugriffsrecht. Im Beispiel muss die Reservierungsfrist zusammen mit dem Hinweis auf das Ticketformular auffindbar sein. Wird der Zusammenhang beim Aufteilen zerrissen, fehlt der Antwort möglicherweise eine Bedingung.

Der Suchbestand ist eine aufbereitete Sicht auf die Unterlagen. Wird Version 3 des IT-Handbuchs ersetzt, muss auch dieser Bestand aktualisiert werden. Legen Sie fest, wer Änderungen, gelöschte Dokumente und geänderte Berechtigungen nachführt und wie geprüft wird, dass alte Inhalte nicht weiter als gültige Grundlage auftauchen.

Bei der Frage: erst Zugriffsrechte, dann Antwortgrundlage

Die Anwendung muss die angemeldete Person kennen und ihre erlaubten Quellen berücksichtigen. Für unsere Mitarbeiterin dürfen die beiden allgemeinen IT-Dokumente in die Antwortgrundlage gelangen. Eine nur für den Einkauf zugängliche Preisvereinbarung darf weder als Textauszug an das Modell gelangen noch als Treffer oder Quellenhinweis erscheinen.

Diese Grenze muss technisch durchgesetzt werden. Eine Anweisung wie «Zeige keine vertraulichen Daten» an das Sprachmodell ersetzt keine Zugriffskontrolle. Auch der Link zum Original braucht die passende Berechtigung. Prüfen Sie dieselbe Frage mit zwei unterschiedlich berechtigten Konten und kontrollieren Sie, welche Fundstellen tatsächlich an das Modell übergeben wurden.

Beim Antworten: nur das wiedergeben, was die Quellen tragen

Aus den zugelassenen Suchtreffern formuliert das Modell eine Antwort und ordnet Aussagen ihren Fundstellen zu. Im Beispiel sind Frist und Abholzeit belegt. Ob am gewünschten Tag tatsächlich ein Notebook verfügbar ist, steht in keinem der beiden Texte: Dafür wäre eine berechtigte Abfrage des aktuellen Gerätebestands nötig.

Bei der Sonntagsfrage reicht die Quelle nicht für eine Ausnahme. Das System soll diese Lücke benennen. Wenn zwei aktuelle Unterlagen unterschiedliche Ausgabezeiten nennen, soll es den Widerspruch zeigen und an die zuständige Stelle verweisen, statt eine Zeit auszuwählen. Auch mit Quellenangaben bleiben falsche Antworten möglich; eine zitierte Stelle muss die Aussage tatsächlich stützen.

Fehler finden, bevor Sie die Assistenz freigeben

Lassen Sie die zuständige Fachperson zu wiederkehrenden Fragen die erwartete Fundstelle und eine fachlich richtige Antwort festhalten. Nutzen Sie das Beispiel für drei getrennte Kontrollen:

• Falsche Fundstelle: Liefert die Suche eine alte Reservierungsfrist? Prüfen Sie Versionen, Aufbereitung und Auswahl der Treffer.
• Falsche Wiedergabe: Findet das System «fünf Arbeitstage», antwortet aber «fünf Tage»? Die Information ging beim Formulieren verloren.
• Fehlende Grundlage: Erfindet es eine Sonntagsausnahme oder eine Geräteverfügbarkeit? Diese Fragen müssen als unbeantwortet erkennbar bleiben.

Wann sich der zusätzliche Aufbau lohnt

Vergleichen Sie dieselben typischen Fragen mit Ihrer bestehenden Suche und der Assistenz. Können Mitarbeitende die richtige Antwort leichter finden und am Original prüfen? Die folgende Tabelle hilft bei der Wahl. Für verbindliche aktuelle Zahlen genügt ein Auszug aus einem Handbuch nicht.

Zum Aufwand gehören Dokumentaufbereitung, technische Umsetzung, Rollenprüfung und fachliche Tests. Im Betrieb kommen je nach Lösung Hosting, Modellnutzung und Wartung hinzu. Benennen Sie ausserdem eine Person für die Dokumentpflege und einen einfachen Meldeweg für falsche Antworten. Eine zusätzliche Chatoberfläche löst veraltete oder widersprüchliche Unterlagen nicht.