DSGVO-konforme KI im Unternehmen: Worauf es wirklich ankommt

Die entscheidende Frage ist nicht "welches Modell", sondern "wohin fließen die Daten"

Bei fast jedem Erstgespräch zum Thema KI steht zuerst die Frage im Raum, welches Sprachmodell das beste sei. Datenschutzrechtlich ist das die zweitwichtigste Frage. Entscheidend ist, wer die Eingaben verarbeitet, in welchem Land das geschieht und ob die Inhalte dort gespeichert oder zum Training weiterverwendet werden.

Ein Mitarbeiter, der einen Kundenvertrag in ein öffentliches Chat-Interface kopiert, übermittelt personenbezogene Daten an einen Dritten — unabhängig davon, wie gut das Modell dahinter ist. Genau dieser Vorgang läuft in vielen Unternehmen täglich, ohne dass er je als Datenverarbeitung erfasst wurde. Der erste sinnvolle Schritt ist deshalb keine Technologieentscheidung, sondern eine Bestandsaufnahme: Welche KI-Dienste werden bereits genutzt, von wem, und mit welchen Daten?

Drei Betriebsmodelle mit sehr unterschiedlichem Risikoprofil

In der Praxis laufen KI-Anwendungen in einem von drei Modellen. Beim öffentlichen Dienst nutzt man die Endkunden-Oberfläche eines Anbieters, etwa ein frei zugängliches Chat-Interface. Hier besteht in der Regel kein Auftragsverarbeitungsvertrag, und die Eingaben können zur Verbesserung der Dienste ausgewertet werden. Für personenbezogene oder vertrauliche Daten ist das ungeeignet.

Beim API-Zugang mit Auftragsverarbeitungsvertrag läuft die Verarbeitung über eine geschäftliche Schnittstelle desselben Anbieters. Es gibt einen AV-Vertrag nach Art. 28 DSGVO, Eingaben werden vertraglich vom Training ausgenommen, und je nach Anbieter lässt sich die Verarbeitungsregion auf die EU begrenzen. Für viele Anwendungsfälle ist das ein tragfähiger Kompromiss aus Leistung und Rechtssicherheit.

Beim Self-Hosting läuft ein offenes Modell auf eigener oder angemieteter Infrastruktur, etwa in einem deutschen Rechenzentrum. Die Daten verlassen den eigenen Verantwortungsbereich nicht. Der Preis dafür sind höhere Betriebskosten und in der Regel etwas schwächere Modellqualität als bei den größten kommerziellen Modellen. Für besonders sensible Bereiche — Gesundheitsdaten, Personalakten, Mandantendaten — ist es oft die einzig vertretbare Variante.

Warum "EU-Hosting" allein noch keine Konformität herstellt

Ein Serverstandort in der EU ist ein wichtiges Argument, aber er beantwortet nur einen Teil der Frage. Entscheidend ist zusätzlich, ob der Anbieter dem Zugriff von Drittstaaten unterliegt und ob im Support- oder Wartungsfall Personal ausserhalb der EU auf die Daten zugreifen kann. Ein europäisches Rechenzentrum, das von einem Konzern mit Sitz ausserhalb der EU betrieben wird, ist rechtlich etwas anderes als ein europäischer Anbieter.

Ebenso wenig ersetzt EU-Hosting die übrigen Pflichten: Es braucht weiterhin eine Rechtsgrundlage für die Verarbeitung, einen Eintrag im Verzeichnis der Verarbeitungstätigkeiten, transparente Information der Betroffenen und — bei hohem Risiko — eine Datenschutz-Folgenabschätzung. "Wir hosten in Deutschland" ist ein guter Anfang, aber keine Antwort auf die Frage, ob eine konkrete Verarbeitung zulässig ist.

Die Datenminimierung passiert vor dem Modell, nicht im Modell

Der wirksamste technische Hebel liegt nicht in der Modellauswahl, sondern davor: Welche Daten erreichen das Modell überhaupt? Ein Support-Chatbot, der Bestellstatus beantwortet, braucht die Bestellnummer und den Status — nicht die vollständige Kundenhistorie samt Adresse und Zahlungsdaten. Wird der Kontext bewusst auf das Notwendige begrenzt, sinkt das Risiko unabhängig davon, wo das Modell läuft.

In der Umsetzung bedeutet das eine Zwischenschicht zwischen Datenquelle und Modell, die Felder gezielt auswählt und Bezeichner ersetzt, statt ganze Datensätze durchzureichen. Diese Schicht ist auch der richtige Ort für Protokollierung: Wer wann welche Anfrage gestellt hat, lässt sich dort revisionssicher festhalten, ohne die Inhalte selbst dauerhaft zu speichern.

Was Unternehmen in der Praxis zuerst regeln sollten

Vor jeder technischen Einführung steht eine schriftliche Nutzungsrichtlinie, die zwei Dinge klärt: welche Dienste freigegeben sind und welche Datenarten niemals in ein KI-System eingegeben werden dürfen. Ohne diese Festlegung entstehen Schatten-Prozesse, in denen Beschäftigte mangels Alternative auf private Zugänge ausweichen — das größere Risiko gegenüber einer kontrolliert eingeführten Lösung.

Anschließend gehört jede KI-Verarbeitung in das Verzeichnis der Verarbeitungstätigkeiten, mit Zweck, Rechtsgrundlage, Datenkategorien und Löschfristen. Wo ein externer Anbieter beteiligt ist, braucht es einen Auftragsverarbeitungsvertrag. Und weil sich sowohl die Anbieterlandschaft als auch der Rechtsrahmen — Stichwort KI-Verordnung — laufend weiterentwickeln, sollte die Bewertung ein wiederkehrender Termin sein und keine einmalige Freigabe.