Der Einsatz von Künstlicher Intelligenz in Unternehmen nimmt stetig zu und betrifft mittlerweile nahezu alle Unternehmensbereiche – von der Personalverwaltung über den Kundenservice bis hin zur Datenanalyse. Mit dieser Entwicklung gehen jedoch erhebliche datenschutzrechtliche Herausforderungen einher, insbesondere im Hinblick auf die Nutzung
offener KI-Systeme. Diese bergen Risiken wie unkontrollierten Datenabfluss, die Übermittlung personenbezogener Daten in Drittstaaten sowie die potenzielle Verwendung sensibler Informationen zur Weiterentwicklung von KI-Modellen.
Vor diesem Hintergrund gewinnt die Frage an Bedeutung, wie Unternehmen KI rechtssicher einsetzen können. Die Datenschutz-Grundverordnung (DSGVO) stellt klare Anforderungen an die Verarbeitung personenbezogener Daten. Neben der Notwendigkeit einer Rechtsgrundlage (Art. 6 DSGVO) sind insbesondere die Prinzipien der Zweckbindung und Datenminimierung zu beachten. Ergänzend dazu wird der europäische AI Act künftig verbindliche Vorgaben zur Risikoklassifizierung von KI-Systemen, zur Dokumentation sowie zur Transparenz machen.
Die Datenschutzkonferenz (DSK) hat in ihrer Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ die Empfehlung ausgesprochen, bei sensiblen Daten auf sogenannte geschlossene Systeme zurückzugreifen. Diese zeichnen sich dadurch aus, dass sie entweder vollständig
unternehmensintern betrieben oder technisch so abgeschottet sind, dass ein Zugriff durch Dritte ausgeschlossen ist. Die Daten verbleiben im eigenen Hoheitsbereich, was eine vollständige Kontrolle über deren Verarbeitung ermöglicht. Der Zugriff ist auf autorisierte Nutzerinnen
und Nutzer beschränkt, wodurch sich die datenschutzrechtlichen Risiken erheblich reduzieren lassen.
Ein Beispiel für die Umsetzung dieser Anforderungen bietet der Azure OpenAI Service von Microsoft. Das Unternehmen versichert nach eigenen Angaben, dass Eingaben, Ausgaben sowie Trainingsdaten nicht zur Verbesserung der Modelle verwendet oder mit Dritten geteilt werden. Auch eine Nutzung dieser Daten zur Schulung generativer KI-Modelle erfolgt ausschließlich mit ausdrücklicher Zustimmung der Kunden. Solche Zusicherungen sind aus datenschutzrechtlicher Sicht von zentraler Bedeutung, insbesondere im Hinblick auf die Einhaltung der DSGVO.
Ein besonders gelungenes Praxisbeispiel für den datenschutzkonformen Einsatz von KI stellt die Plattform „plAIground“ der WTS Global dar. Diese wurde jüngst im Rahmen der European Tax Awards in London mit dem Titel „Tax Innovator of the Year“ ausgezeichnet. Die Plattform wurde speziell für das hochregulierte steuerrechtliche Umfeld konzipiert und bietet eine vorkonfigurierte, geschlossene KI-Umgebung mit sogenannten „Daily Assistants“. Sie ist unter anderem an juristische Fachinformationssysteme wie Otto Schmidt angebunden und nutzt die
Cloud-Infrastruktur von Microsoft unter Einhaltung höchster Datenschutzstandards. Die Auszeichnung würdigt nicht nur die technische Innovationskraft von WTS Global, sondern auch den verantwortungsvollen Umgang mit sensiblen Daten im Kontext der digitalen Transformation. Der Fall zeigt exemplarisch, wie Unternehmen durch den Einsatz geschlossener Systeme sowohl den Anforderungen des Datenschutzrechts gerecht werden als auch innovative Technologien gewinnbringend einsetzen können. Gleichwohl bleibt die Frage offen, ob geschlossene Systeme die einzige Möglichkeit darstellen, KI datenschutzkonform zu betreiben. Unternehmen stehen vor der Herausforderung, eine Balance zwischen Innovationsfähigkeit und rechtlicher Compliance zu finden. In diesem Zusammenhang stellt sich auch die Frage, inwieweit unternehmensinterne KI-Lösungen – sogenannte „Corporate AIs“ – künftig eine tragende Rolle spielen können.
Die Diskussion um den rechtssicheren Einsatz von KI wird weiter an Bedeutung gewinnen. Unternehmen sind gut beraten, sich frühzeitig mit den rechtlichen Rahmenbedingungen auseinanderzusetzen und technische Lösungen zu implementieren, die sowohl Effizienzgewinne ermöglichen als auch den Schutz personenbezogener Daten gewährleisten.
Quellen
https://learn.microsoft.com/en-us/azure/ai-foundry/responsible-ai/openai/data-privacy
https://wts.com/global/publishing-article/20250919-wts-global-tax-innovator-itr~publishing-article