Kontextfenster
Das Kontextfenster ist die Menge an Text, die ein Sprachmodell gleichzeitig berücksichtigen kann — Frage, mitgelieferte Dokumente und die eigene Antwort zusammengenommen. Was nicht hineinpasst, existiert für das Modell nicht.
Warum die Größe allein nicht entscheidet
Moderne Modelle fassen Hunderttausende Wörter. Trotzdem sinkt die Zuverlässigkeit, je voller das Fenster wird: Angaben in der Mitte langer Texte werden schlechter berücksichtigt als solche am Anfang oder Ende.
Deshalb ist es meist besser, gezielt die drei passenden Abschnitte zu liefern als das ganze Handbuch. Genau das leistet eine Dokumentensuche mit Embeddings — sie ersetzt Menge durch Auswahl.
Was das kostet
Abgerechnet wird nach verarbeiteter Textmenge. Wer bei jeder Anfrage ein vollständiges Handbuch mitschickt, zahlt das bei jeder Anfrage — auch wenn nur ein Satz daraus gebraucht wird.
Bei einem Assistenten mit vielen täglichen Anfragen ist das der größte einzelne Kostenfaktor und zugleich der am leichtesten zu senkende.
Was kostet ein KI-Chatbot? Eine Einordnung der Marktpreise
Die Spannen am Markt reichen von wenigen tausend bis über hunderttausend Euro – für Angebote, die alle „KI-Chatbot" heißen. Was den Unterschied tatsächlich ausmacht und woran Sie erkennen, welche Zahl zu Ihrem Vorhaben passt.
DSGVO-konforme KI im Unternehmen: Worauf es wirklich ankommt
Der Einsatz von KI scheitert im Mittelstand selten an der Technik, sondern an der Frage, wohin die Daten fließen. Welche Punkte tatsächlich entscheidend sind — und welche überschätzt werden.
Passende Leistungen
RAG-Systeme & Wissensdatenbanken
Machen Sie Ihr Firmenwissen durchsuchbar. Dokumente, Handbücher und FAQs werden zur intelligenten, zitierfähigen Wissensbasis.
Mehr dazuKI-Beratung & Strategie
Strategische Beratung für den KI-Einsatz: Use-Case-Analyse, Tool-Auswahl und Implementierungsplanung — AI-Act-konform.
Mehr dazuKI-Chatbot Entwicklung
Intelligente Chatbots, trainiert auf Ihren Unternehmensdaten. 24/7 Support, weniger Ticketlast, mehr Conversions.
Mehr dazu