RAG-System
Ein RAG-System verbindet ein Sprachmodell mit einer eigenen Dokumentensammlung: Zu jeder Frage werden zuerst passende Textstellen gesucht, und nur aus diesen formuliert das Modell die Antwort. So sinkt die Zahl erfundener Angaben erheblich.
Warum diese Bauweise nötig ist
Ein Sprachmodell allein erzeugt die wahrscheinlichste Fortsetzung – auch dann, wenn es die Antwort nicht kennt. Das Ergebnis klingt überzeugend und kann frei erfunden sein. Für interne Auskünfte oder Kundenkommunikation ist das untragbar.
Ein RAG-System dreht die Reihenfolge um: erst suchen, dann formulieren. Das Modell bekommt die gefundenen Stellen mitgeliefert und die Anweisung, nur daraus zu antworten. Findet die Suche nichts, lautet die richtige Antwort „dazu liegt mir nichts vor" – und genau das ist der Gewinn.
Woran die Antwortqualität tatsächlich hängt
An der Suche, nicht am Sprachmodell. Wenn die passenden Absätze nicht gefunden werden, hilft kein besseres Modell — es formuliert dann eine schöne Antwort aus den falschen Unterlagen. Der größte Hebel liegt in der Aufbereitung und der Zerlegung der Dokumente.
Deshalb beginnt die Fehlersuche immer dort: Erst nachsehen, welche Abschnitte gefunden wurden, dann über die Antwort urteilen. Ohne diese Zwischenansicht rätselt man über das falsche Bauteil.
Was in die Wissensbasis nicht hineingehört
Veraltete Fassungen. Wenn drei Versionen desselben Handbuchs im Index liegen, findet die Suche die falsche mit derselben Zuverlässigkeit wie die richtige — und die Antwort nennt die Quelle, was ihr zusätzliche Glaubwürdigkeit gibt.
Ebenfalls nicht hinein gehören Dokumente mit abgestuften Zugriffsrechten, solange die Rechte nicht mit abgebildet sind. Sonst beantwortet das System einer Person Fragen aus Unterlagen, die sie nicht öffnen dürfte.
Woran es in der Praxis hängt
An der Qualität der Dokumente. Wenn Ihre Handbücher widersprüchlich sind, gibt das System widersprüchliche Auskünfte – zuverlässig und schnell. Der größte Aufwand in solchen Projekten liegt fast immer im Aufräumen der Quellen, nicht in der Technik.
Zweitens an der Quellenangabe. Ein System, das zu jeder Aussage sagt, aus welchem Dokument sie stammt, lässt sich prüfen. Eines ohne diese Angabe verlangt Vertrauen, das man ihm nicht geben sollte.
Was kostet ein KI-Chatbot? Eine Einordnung der Marktpreise
Die Spannen am Markt reichen von wenigen tausend bis über hunderttausend Euro – für Angebote, die alle „KI-Chatbot" heißen. Was den Unterschied tatsächlich ausmacht und woran Sie erkennen, welche Zahl zu Ihrem Vorhaben passt.
RAG statt Halluzination: Wie Unternehmens-Chatbots verlässlich werden
Ein Sprachmodell erfindet überzeugend klingende Antworten, wenn es die Antwort nicht kennt. Warum Retrieval-Augmented Generation dieses Problem entschärft — und wo auch RAG an seine Grenzen stößt.
Passende Leistungen
RAG-Systeme & Wissensdatenbanken
Machen Sie Ihr Firmenwissen durchsuchbar. Dokumente, Handbücher und FAQs werden zur intelligenten, zitierfähigen Wissensbasis.
Mehr dazuKI-Dokumentenverarbeitung (IDP)
OCR und KI extrahieren Daten aus Rechnungen, Verträgen und Formularen — automatisch aufbereitet für DATEV, ERP oder Buchhaltung.
Mehr dazuKI-Beratung & Strategie
Strategische Beratung für den KI-Einsatz: Use-Case-Analyse, Tool-Auswahl und Implementierungsplanung — AI-Act-konform.
Mehr dazu