Halluzination (KI)
Von einer Halluzination spricht man, wenn ein Sprachmodell etwas erfindet und es wie eine Tatsache darstellt — eine Quelle, eine Zahl, einen Paragrafen. Der Text bleibt dabei sprachlich einwandfrei, was die Erkennung erschwert.
Warum es kein Fehler im engeren Sinn ist
Weil das Modell nicht nachschlägt, sondern die wahrscheinlichste Fortsetzung erzeugt. Eine plausibel klingende Aktenzeichennummer ist genau das, was es leisten soll — nur ist Plausibilität eben nicht Richtigkeit.
Daraus folgt: Man kann Halluzinationen nicht wegtrainieren, man kann sie nur eindämmen. Wer das anders verspricht, verkauft etwas, das die Technik nicht hergibt.
Was in der Praxis hilft
Das Modell an Quellen binden: Es antwortet ausschließlich aus bereitgestellten Dokumenten und gibt die Fundstelle an. Damit wird jede Behauptung nachprüfbar, ohne den Text selbst kontrollieren zu müssen.
Und die Erlaubnis, nichts zu wissen. Ein Assistent, der „dazu finde ich nichts" sagen darf, erfindet seltener — ohne diese Erlaubnis ist Erfinden die einzige Möglichkeit, die Antwortpflicht zu erfüllen.
Verwandte Begriffe
Was kostet ein KI-Chatbot? Eine Einordnung der Marktpreise
Die Spannen am Markt reichen von wenigen tausend bis über hunderttausend Euro – für Angebote, die alle „KI-Chatbot" heißen. Was den Unterschied tatsächlich ausmacht und woran Sie erkennen, welche Zahl zu Ihrem Vorhaben passt.
DSGVO-konforme KI im Unternehmen: Worauf es wirklich ankommt
Der Einsatz von KI scheitert im Mittelstand selten an der Technik, sondern an der Frage, wohin die Daten fließen. Welche Punkte tatsächlich entscheidend sind — und welche überschätzt werden.
Passende Leistungen
RAG-Systeme & Wissensdatenbanken
Machen Sie Ihr Firmenwissen durchsuchbar. Dokumente, Handbücher und FAQs werden zur intelligenten, zitierfähigen Wissensbasis.
Mehr dazuKI-Beratung & Strategie
Strategische Beratung für den KI-Einsatz: Use-Case-Analyse, Tool-Auswahl und Implementierungsplanung — AI-Act-konform.
Mehr dazuKI-Chatbot Entwicklung
Intelligente Chatbots, trainiert auf Ihren Unternehmensdaten. 24/7 Support, weniger Ticketlast, mehr Conversions.
Mehr dazu