Quellenkonzept
Welche Dokumente und Systeme einbezogen werden, wie sie aufbereitet und aktuell gehalten werden.
KI & Automatisierung
RAG-Lösungen für Unternehmenswissen
Unternehmenswissen für Antworten mit Quellenangaben nutzbar machen, mit Berechtigungen und Evaluation.
Kurz zusammengefasst
Ki4data entwickelt RAG-Lösungen, die Fragen aus Ihren eigenen Dokumenten beantworten und die Quelle jeder Aussage angeben. Wir wählen die geeigneten Quellen aus, bauen einen Prototyp mit Berechtigungsprüfung und messen die Antwortqualität mit vereinbarten Testfragen, bevor über den produktiven Einsatz entschieden wird. Sinnvoll ist das, wenn Wissen in Richtlinien, Handbüchern oder technischer Dokumentation steckt und viel Zeit mit Suchen verloren geht.
Was ist RAG?
Retrieval-Augmented Generation (RAG) verbindet die Suche nach relevanten Inhalten mit der Generierung einer Antwort auf Basis dieser Inhalte; das Verfahren wurde 2020 von Lewis et al. beschrieben. Das Sprachmodell antwortet also nicht aus seinem allgemeinen Training, sondern aus den gefundenen Passagen Ihrer Dokumente, und kann diese als Quelle nennen.
Stand:
Typische Ausgangslagen
- Interne Richtlinien, Handbücher oder Produktdokumentation sind umfangreich und schwer durchsuchbar.
- Dieselben Fragen landen immer wieder bei denselben Expertinnen und Experten.
- Ein erster Chatbot-Versuch hat Antworten ohne Belege oder mit veralteten Informationen geliefert.
- Zugriffsrechte auf Dokumente müssen auch in einer KI-Anwendung eingehalten werden.
Was Sie konkret erhalten
Funktionsfähiger Prototyp
Eine nutzbare Anwendung auf einem abgegrenzten Wissensbereich, inklusive Quellenangaben.
Testfragen
Ein mit dem Fachbereich abgestimmter Fragenkatalog mit erwarteten Antworten.
Evaluationsbericht
Messung von Antwortqualität, Quellenbezug, Latenz und Kosten, mit dokumentierten Grenzen.
Integrations- und Betriebsplan
Wie die Lösung angebunden, überwacht und weiterentwickelt wird.
So gehen wir vor
Quellen
Dokumente und Systeme auswählen und deren Qualität bewerten.
Aufbereitung und Index
Inhalte zerlegen, anreichern und durchsuchbar machen.
Berechtigungen
Zugriffsrechte der Quellsysteme in die Suche übernehmen.
Retrieval
Relevante Passagen zur Frage finden und gewichten.
Modell und Antwort
Antwort auf Basis der Passagen erzeugen und Quellen angeben.
Evaluation
Mit Testfragen messen, Fehler analysieren und gezielt verbessern.
Woran wir die Qualität messen
- Quellenabdeckung: Sind die relevanten Dokumente einbezogen?
- Berechtigungstreue: Sieht jede Person nur, was sie sehen darf?
- Aktualität: Werden Änderungen an Quellen zeitnah übernommen?
- Antwortbelege: Lässt sich jede Aussage auf eine Quelle zurückführen?
- Umgang mit fehlenden Informationen: Sagt die Lösung, wenn sie keine Antwort hat?
- Latenz und Kosten pro Anfrage
Voraussetzungen und Grenzen
Sinnvoll, wenn …
- Das Wissen liegt in Textform vor und ändert sich regelmäßig.
- Antworten müssen nachvollziehbar und mit Quelle belegbar sein.
- Es gibt einen klar abgegrenzten ersten Wissensbereich und Ansprechpartner im Fachbereich.
Eine andere Lösung passt besser, wenn …
- Gesucht wird vor allem ein bestimmtes Dokument; dann ist eine gute klassische Suche oft schneller und günstiger.
- Die Antworten sollen aus strukturierten Kennzahlen entstehen; dafür eignet sich eher ein Ansatz auf dem Data Warehouse.
Was Aufwand und Kosten bestimmt
Jedes Vorhaben wird individuell kalkuliert. Diese Faktoren beeinflussen den Umfang am stärksten:
- Anzahl, Format und Qualität der Quellen
- Anforderungen an Berechtigungen und Integration in bestehende Systeme
- Umfang der Evaluation und der Testfragen
- Nutzungsvolumen und gewähltes Modell im Betrieb
Häufige Fragen
Wann reicht klassische Suche?
Wenn Nutzer vor allem ein bestimmtes Dokument finden wollen und die Antwort darin selbst lesen. RAG lohnt sich, wenn Antworten aus mehreren Passagen zusammengesetzt werden müssen oder Fragen in natürlicher Sprache gestellt werden.
Wie werden Zugriffsrechte umgesetzt?
Die Berechtigungen der Quellsysteme werden beim Indexieren mitgeführt und bei jeder Anfrage geprüft, bevor Passagen an das Modell gehen. So kann die Antwort keine Inhalte enthalten, die die fragende Person nicht sehen darf.
Wie prüfen wir falsche Antworten?
Mit einem abgestimmten Satz von Testfragen, der vor jeder Änderung erneut läuft, und mit der Auswertung von Nutzerfeedback im Betrieb. Antworten ohne ausreichende Quelle werden als solche gekennzeichnet statt geraten.
RAG oder Fine-Tuning?
RAG eignet sich, wenn Antworten auf aktuellem, sich änderndem Wissen beruhen und belegbar sein müssen: Neue Dokumente werden indexiert statt neu trainiert, und Zugriffsrechte lassen sich pro Anfrage prüfen. Fine-Tuning passt eher, wenn ein Modell einen bestimmten Stil oder ein festes Aufgabenformat lernen soll. Beides lässt sich kombinieren.
Passende Leistungen
KI-Agenten für klar definierte UnternehmensprozesseAgenten mit klar definierten Werkzeugen, Ausführungsgrenzen und nachvollziehbarer Protokollierung.Data-Warehouse-Beratung und UmsetzungEine zentrale, verlässliche Datenbasis für Reporting, Analytics und KI aufbauen oder modernisieren.Betrieb und Optimierung Ihrer Data-&-AI-LösungenBetrieb, Wartung, Monitoring, Support und Performance-Optimierung für Data-&-AI-Lösungen.
Nächster Schritt
In einem ersten Gespräch klären wir Ausgangslage, Ziel und sinnvollen Einstieg. Sie erhalten danach eine Einschätzung, wie ein Projekt aussehen kann.
RAG-Anwendungsfall prüfen