Eine aktuelle Analyse der Datenschutzfirma Incogni wirft ein kritisches Licht auf die Praktiken führender Betreiber großer Sprachmodelle (LLMs). Demnach sammeln diese nicht nur öffentlich zugängliche Informationen, sondern auch sensible persönliche Daten – etwa Telefonnummern, Standortdaten, Fotos und Social-Media-Inhalte – und geben sie teils an Dritte weiter.
Besonders problematisch ist laut Studie die Intransparenz vieler Anbieter. Während Unternehmen wie Anthropic, OpenAI und Mistral ihre Datenschutzerklärungen klar und verständlich formulieren, fehlt bei Google, Meta und Microsoft oft eine einheitliche und nachvollziehbare Darstellung. Nutzer haben kaum eine Möglichkeit, zu erkennen, ob und wie ihre Daten verwendet werden.
Juristisch relevant ist zudem die Weitergabe von Nutzereingaben („Prompts“) an Werbepartner, Dienstleister und sogar Strafverfolgungsbehörden. Microsoft etwa teilt laut Bericht Eingaben aus Copilot mit Unternehmen, die Online-Werbung betreiben. Eine Opt-out-Möglichkeit besteht zwar für einige Modelle, sie bezieht sich jedoch ausschließlich auf Prompts – nicht auf andere personenbezogene Daten.
Die Studie zeigt auch, dass KI-Anbieter beim Training ihrer Modelle Schranken wie die robots.txt-Datei ignorieren und Daten aus nicht näher spezifizierten Quellen wie Datenbrokern oder Finanzinstituten beziehen. Dies wirft datenschutzrechtliche Fragen auf, insbesondere im Hinblick auf die DSGVO und das Prinzip der Datenminimierung.
Fazit: Die rechtliche Bewertung der Datenverarbeitung durch LLMs steht erst am Anfang. Für Jurist:innen und Datenschutzbeauftragte ergibt sich daraus ein dringender Handlungsbedarf – sowohl in der Beratungspraxis als auch im Hinblick auf regulatorische Entwicklungen.
Quellen:
Das Beitragsbild sowie der Beitragstext wurden mithilfe von KI-Systemen generiert, wobei die Kontrolle über das Ergebnis bei natürlichen Personen lag. Sämtliche Eingaben in KI-Systemen verfolgten Zwecke der wissenschaftlichen Forschung.