Der Einsatz von KI-Sprachmodellen im Unternehmen: Woran man bei DSGVO und Datensouveränität denken sollte

Wer im beruflichen Alltag mit KI-gestützten Sprachmodellen arbeitet, muss sich sehr schnell mit einer Frage beschäftigen, die mit den schönen Produktversprechen nicht zu beantworten ist: Wohin gehen die Daten, die ich eingebe? Die Antwort darauf hängt sehr stark davon ab, welches Modell ich einsetze, wo und wie es betrieben wird und ob der Anbieter überhaupt unter europäisches Datenschutzrecht fällt. Für Unternehmen, die mit personenbezogenen Daten, Geschäftsgeheimnissen oder vertraulichen Informationen ihrer Mandanten arbeiten, ist das keine theoretische Abwägung.

Cloud-Dienste und DSGVO: Wo drohen rechtliche Risiken?

Die meisten kommerziellen Sprachmodelle werden als Cloud-Dienste betrieben und laufen auf Servern außerhalb der EU. Das heißt konkret: jede Eingabe, jede Abfrage, jedes hochgeladene Dokument verlässt potenziell den europäischen Rechtsraum. Nach Art. 44 ff. DSGVO ist eine Datenübermittlung in Drittstaaten nur unter bestimmten Voraussetzungen zulässig, etwa durch Standardvertragsklauseln (SCC) oder verbindliche interne Datenschutzvorschriften. Nicht ausreichend ist es, bei Anbietern von KI-Diensten nur einen Auftragsverarbeitungsvertrag abzuschließen, wenn der Datenempfänger in einem Drittland ohne angemessenen Datenschutz nach Art. 45 DSGVO sitzt.

Ein weiteres Problem kommt hinzu: Viele Anbieter räumen sich in ihren Nutzungsbedingungen ein, die Eingabedaten für das Training ihrer Modelle zu verwenden, sofern ihre Nutzer dem nicht aktiv widersprechen. Ein Unternehmen, das seine Vertragsunterlagen oder Patientendaten in ein solches System einspeist, verstößt damit eindeutig gegen die Zweckbindung nach Art. 5 Abs. 1 lit. b DSGVO. Nicht zu vergessen die Haftungsrisiken: Wer im Sinne des Datenschutzrechts Verantwortlicher ist, muss nachweisen können, mit welchen Dienstleistern er Daten teilt und auf welcher Rechtsgrundlage. Bei den mehrstufigen Cloudarchitekturen, wie sie auch große KI-Anbieter pflegen, wird dieser Nachweis schnell kompliziert.

Datenschutzkonforme Alternative: Selbst gehostete Sprachmodelle

Seitdem Open-Source-Modelle technisch so weit fortgeschritten sind, dass sie produktiv eingesetzt werden können, hat sich die Lage für Unternehmen wesentlich verbessert. Modelle, die lokal auf eigener Infrastruktur oder in einer privaten Cloud betrieben werden, senden keine Daten an fremde Server. Die gesamte Verarbeitung findet im eigenen Netzwerk statt und entspricht damit den Anforderungen an technisch-organisatorische Maßnahmen nach Artikel 32 DSGVO erheblich besser.
DeepSeek ist eines der Modelle, das in diesem Zusammenhang zunehmende Bedeutung gewinnen wird. Das chinesische KI-Labor hat mehrere Modellvarianten als Open-Source unter MIT-Lizenz veröffentlicht, darunter DeepSeek-R1 und DeepSeek-V3. Letzteres erreicht in gängigen Benchmarks wie MMLU und HumanEval Ergebnisse, die mit erheblich größeren proprietären Modellen konkurrieren können, bei einem Bruchteil der Trainingskosten. Unternehmen können diese Modelle auf eigenen Servern betreiben, ohne dass die Daten ihren Netzwerkbereich verlassen.

Für regulierte Branchen wie das Gesundheitswesen, Anwaltskanzleien oder die Finanzbranche ist das ein entscheidender Unterschied. Selbst gehostete Modelle erlauben eine lückenlose Kontrolle über Datenflüsse, Protokollierung und Zugriffsrechte und machen die Zusammenarbeit mit Datenschutzbeauftragten erheblich einfacher.

Technische Kriterien für DSGVO-konformen KI-Einsatz

Bei der Auswahl eines KI-Systems zur Verwendung im Unternehmen sollten konkrete Parameter die Entscheidung leiten. Der wichtigste Verarbeitungsort ist hierbei das erste Kriterium: Werden Daten ausschließlich auf eigenen oder vertraglich kontrollierten Systemen verarbeitet? Hier folgt das Lizenzmodell direkt. Open-Source-Lizenzen wie bei Apache 2.0 oder MIT erlauben eine kommerzielle Nutzung ohne zusätzliche Einschränkungen, proprietäre Lizenzen können Nutzungsrechte einschränken.
Die Modellgröße und die daraus resultierenden Hardwareanforderungen bestimmen, welche Infrastruktur tatsächlich gebraucht wird. Ein Modell mit 7 Milliarden Parametern lässt sich auf einem einzelnen Server mit einer aktuellen Consumer-GPU wie der NVIDIA RTX 4090 (24 GB VRAM) betreiben. Modelle mit 70 Milliarden Parametern benötigen hingegen dedizierte GPU-Server oder Multi-GPU-Setups, etwa mit A100 oder H100-Karten.
Ebenfalls relevant ist die Auditierbarkeit. Wer ein Modell selbst hostet, kann sämtliche Anfragen protokollieren, Ausgaben nachverfolgen und Sicherheitsrichtlinien auf Systemebene durchsetzen. Das erfüllt das Rechenschaftspflicht-Prinzip nach Artikel 5 Abs. 2 DSGVO und ist eine solide Grundlage für die Dokumentationspflichten gegenüber Aufsichtsbehörden.

Unternehmen, die KI-Systeme implementieren wollen, ohne Compliance-Risiken einzugehen, sollten frühzeitig eine Datenschutz-Folgenabschätzung (DSFA) nach Artikel 35 DSGVO durchführen. Dabei konkret zu klären, welche Datenkategorien das System verarbeiten soll, ob eine Cloud-Lösung rechtlich überhaupt zulässig ist und welche technischen Schutzmaßnahmen zu ergreifen sind. Wer diesen Schritt überspringt, muss nicht nur mit Bußgeldern rechnen, sondern auch mit Reputationsschäden, die sich im Nachhinein kaum begrenzen lassen.