Chatbot-Kennzeichnung nach Art. 50: Was technisch zu tun ist

Was Artikel 50 konkret verlangt

Die Anforderung verteilt sich auf zwei Absätze, was regelmäßig übersehen wird. Absatz 1 verlangt, dass KI-Systeme, die für die direkte Interaktion mit Menschen bestimmt sind, so gestaltet sein müssen, dass die betroffene Person erfährt, dass sie mit einer KI interagiert. Absatz 5 ergänzt Form und Zeitpunkt: klar und unterscheidbar, spätestens zum Zeitpunkt der ersten Interaktion. Wer nur Absatz 1 zitiert, lässt die eigentliche Umsetzungsvorgabe weg. Beide Absätze stehen im Artikel 50 der KI-Verordnung (öffnet in neuem Tab), der seit 2. August 2026 anwendbar ist.

Damit scheiden mehrere in der Praxis verbreitete Varianten aus. Ein Absatz in den Nutzungsbedingungen genügt dem Maßstab aus Absatz 5 — klar, unterscheidbar und spätestens bei der ersten Interaktion — nicht, ebenso wenig ein Hinweis in der Datenschutzerklärung oder in der Fußzeile der Website. Der Nutzer soll es erfahren, bevor er antwortet, nicht wenn er danach sucht. Wie die Kommission das im Einzelnen versteht, hat sie in ihren Leitlinien zu Artikel 50 vom 20. Juli 2026 niedergelegt.

Positiv formuliert ist der Aufwand gering: Ein Satz in der Dialogeröffnung genügt. Etwa der Hinweis, dass hier ein KI-Assistent antwortet und bei Bedarf an einen Mitarbeiter übergeben wird. Das ist eine Zeile Text an der richtigen Stelle, keine Architekturänderung. Eine bestimmte Wortfolge schreibt die Verordnung nicht vor. Hat der Assistent einen Namen, kann der Hinweis ihn aufgreifen — entscheidend ist nur, dass für den Nutzer verständlich wird, dass er mit einer Maschine schreibt.

Wann der Hinweis entfallen darf

Die Verordnung sieht eine Ausnahme vor, wenn es aus Sicht einer angemessen informierten, aufmerksamen und verständigen Person ohnehin offensichtlich ist, dass es sich um ein KI-System handelt. Diese Formulierung ist an einen aus dem Lauterkeitsrecht bekannten Maßstab angelehnt.

Sich darauf zu verlassen, ist allerdings riskant. Die Offensichtlichkeit muss aus der Situation selbst folgen, nicht aus dem Vorwissen einzelner Nutzer. Ein Widget, das schlicht mit „Chat" beschriftet ist, macht nicht offensichtlich, ob dahinter ein Mensch oder ein Modell sitzt — im Gegenteil, viele Support-Chats sind personenbesetzt. Je besser das System formuliert, desto weniger offensichtlich wird die Sache. Dasselbe gilt für Telefon-Hotlines mit Sprachausgabe: Eine natürlich klingende Stimme gibt aus sich heraus nicht zu erkennen, ob ein Mensch oder ein Modell antwortet.

Praktisch gesprochen: Wer die Ausnahme in Anspruch nehmen möchte, müsste im Zweifel begründen, warum sie greift. Ein Satz Text ist günstiger als diese Begründung. Hinzu kommt der Nachweis: Eine dokumentierte Kennzeichnung lässt sich bei einer Anfrage der Marktaufsicht vorlegen, eine behauptete Offensichtlichkeit muss erst hergeleitet werden.

Anbieter oder Betreiber — wer die Pflicht trägt

Die Gestaltungspflicht aus Absatz 1 trifft den Anbieter, also denjenigen, der das System entwickelt und unter eigenem Namen oder eigener Marke bereitstellt. Wer ein fremdes System nur nutzt, ist Betreiber und hat andere, schlankere Pflichten. Welche Rolle ein Unternehmen jeweils einnimmt, ist deshalb die erste Frage jeder Prüfung nach dem AI Act.

Bei Agenturprojekten ist die Zuordnung nicht immer offensichtlich. Wird ein Chatbot für einen Kunden entwickelt und läuft er anschließend unter dessen Marke, spricht viel dafür, dass der Kunde die Anbieterrolle einnimmt. Wird dieselbe Lösung als White-Label-Produkt unter dem Namen der Agentur vertrieben, liegt sie bei der Agentur. Auch eine wesentliche Veränderung eines zugekauften Systems kann den Betreiber zusätzlich zum Anbieter machen. Ob etwa ein Nachtrainieren des Modells per Fine-Tuning schon als solche Veränderung gilt, lässt sich nicht pauschal beantworten — das Austauschen eines Begrüßungstextes gilt es sicher nicht.

Für die technische Umsetzung ist die Rollenfrage allerdings zweitrangig, weil der Hinweis unabhängig davon in der ausgelieferten Oberfläche stehen muss. Wichtig wird sie beim Vertrag: Dort sollte stehen, wer die Rolle übernimmt und wer die Dokumentation fortschreibt.

KI-generierte Bilder und Texte — zwei verschiedene Maßstäbe

Bei generierten Inhalten trennt die Verordnung schärfer, als oft wiedergegeben wird. Absatz 2 verpflichtet Anbieter generativer Systeme, ihre Ausgaben maschinenlesbar als künstlich erzeugt zu markieren, etwa über Metadaten nach dem C2PA-Standard. Diese Pflicht liegt beim Anbieter des Modells, nicht bei Ihnen als Nutzer. Für Systeme, die bereits vor dem 2. August 2026 in Verkehr gebracht wurden, gilt hier eine Übergangsfrist bis zum 2. Dezember 2026. Eingeführt hat sie die Änderungsverordnung (EU) 2026/1744, deren Fristen der Beitrag zum Digital Omnibus im Einzelnen sortiert. Systeme, die seit 2. August 2026 neu auf den Markt kommen, haben diese Übergangszeit nicht.

Eine bestimmte Technik schreibt Absatz 2 nicht vor. Verlangt wird, dass die Lösung wirksam, interoperabel, belastbar und zuverlässig ist, soweit das technisch möglich ist. Metadaten nach C2PA sind eine verbreitete Variante, unsichtbare Wasserzeichen eine andere. Beide haben Schwächen: Metadaten gehen beim erneuten Speichern oder Hochladen leicht verloren, Wasserzeichen sind schwerer zu entfernen, aber nur mit dem passenden Prüfwerkzeug auslesbar.

Wie ein solches Wasserzeichen in der Praxis aussieht, zeigt Google. Am 7. Oktober 2026 berichtete heise online (öffnet in neuem Tab), dass der Prüfdienst für Googles Wasserzeichen nicht mehr nur Medienvertretern offensteht, sondern fast allen — Voraussetzung bleibt ein Konto bei Google, Apple oder ChatGPT. Nach Angaben von Google DeepMind bettet SynthID (öffnet in neuem Tab) ein für Menschen nicht wahrnehmbares Wasserzeichen in Bilder, Videos, Audio und Text ein. Bei Bildern und Videos soll es Zuschneiden, Filter, geänderte Bildraten und verlustbehaftete Kompression überstehen. Der SynthID Detector prüft Bilder, Videos und Audiodateien; neben Googles eigenen Modellen nennt DeepMind OpenAI, NVIDIA und Kakao als Partner, die das Verfahren nutzen.

Die Grenze dieses Werkzeugs ist zugleich die wichtigste Aussage für Unternehmen. Ein positiver Befund zeigt, dass ein Inhalt aus einem System stammt, das SynthID einbettet. Ein negativer Befund beweist dagegen nicht, dass ein Mensch das Bild gemacht hat — es kann aus einem Modell stammen, das ein anderes oder gar kein Wasserzeichen verwendet. Wer eingereichte Bilder, Bewerbungsunterlagen oder Schadensfotos prüfen will, bekommt mit einem Detektor deshalb einen Hinweis, aber keinen Beweis. Darum setzt die Verordnung beim Anbieter an, der die Markierung beim Erzeugen einbettet, und nicht bei der nachträglichen Erkennung.

Absatz 4 richtet sich an Betreiber und behandelt Deepfakes sowie Texte getrennt. Deepfakes sind offenzulegen. Bei Texten greift die Pflicht dagegen nur, wenn diese der Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse dienen. Produktbeschreibungen, Werbetexte und Service-Informationen fallen typischerweise nicht darunter.

Hinzu kommt eine Ausnahme, die in der Praxis viel abdeckt: Inhalte, die redaktionell geprüft wurden und für die ein Mensch die inhaltliche Verantwortung übernimmt, sind von der Offenlegung ausgenommen. Wer KI als Schreibwerkzeug einsetzt und das Ergebnis anschließend prüft und verantwortet, muss die Website deshalb nicht mit Hinweisen pflastern.

Umsetzung im Frontend

Technisch sind es drei Bausteine. Erstens der Hinweis selbst, ausgespielt als erste Nachricht im Dialog, nicht als Tooltip und nicht als Overlay, das sich wegklicken lässt, bevor es gelesen wurde. Zweitens Persistenz: Öffnet der Nutzer den Chat später erneut, sollte der Hinweis wieder sichtbar sein, statt einmalig in einem Cookie abgehakt zu werden.

Drittens die Nachweisbarkeit. Ein schlankes Audit-Log, das pro Sitzung festhält, dass der Hinweis ausgeliefert wurde, kostet wenig und beantwortet im Prüffall die Frage, die sonst schwer zu belegen ist. Es genügt ein Zeitstempel und eine Sitzungskennung — personenbezogene Inhalte gehören dort nicht hinein, sonst schafft die Compliance-Maßnahme ein Datenschutzproblem. Ergänzend hilft es, die Version des Hinweistextes mitzuschreiben; dann lässt sich auch nach einer Textänderung zeigen, welcher Wortlaut zu welchem Zeitpunkt ausgespielt wurde.

Wer einen Chatbot bereits im Einsatz hat, kommt mit diesen drei Punkten in überschaubarer Zeit aus. Aufwendiger wird es nur dort, wo das Chat-Frontend zugekauft ist und der Anbieter keine Möglichkeit vorsieht, eine erste Systemnachricht zu setzen. Dann lohnt die Frage beim Anbieter vor der Frage nach einer eigenen Lösung. Lässt sich das Widget gar nicht anpassen, bleibt als Notlösung ein Hinweis unmittelbar über dem Eingabefeld oder ein vorgeschalteter Schritt, der den Chat erst nach dem Lesen öffnet. Beides ist schwächer als eine erste Nachricht im Dialog, erfüllt aber den Zweck, dass der Hinweis vor der ersten Eingabe sichtbar ist.

Was der Hinweis nicht leistet, sollte ebenfalls klar sein. Er macht einen Chatbot nicht datenschutzkonform, ersetzt keine Prüfung, welche Daten an den Modellanbieter fließen, und entbindet nicht von der Verantwortung für falsche Auskünfte. Artikel 50 regelt allein die Transparenz. Ob die Antworten des Systems stimmen, ist eine Frage der Gestaltung von Wissensbasis, Übergabe an Menschen und Oberfläche — und keine, die ein Satz in der Dialogeröffnung beantwortet.