Die italienische Datenschutzbehörde hat ein Verbot gegen die KI-basierte App Replika ausgesprochen und das US-Unternehmen Luka Inc. mit einer Geldstrafe von 5 Millionen Euro belegt. Replika ist ein auf künstlicher Intelligenz basierender Chatbot, der als „virtueller Freund“ fungiert, häufig genutzt zur emotionalen Unterstützung, Selbstreflexion oder gar zum Aufbau romantischer Bindungen. Besonders alarmierend: Die App erfreut sich auch bei Minderjährigen großer Beliebtheit.
Im Zentrum der Entscheidung stehen erhebliche Verstöße gegen die Datenschutz-Grundverordnung (DSGVO). Die Behörde stellte fest, dass Replika personenbezogene und sensible Daten ohne gültige Rechtsgrundlage verarbeitete, insbesondere ohne eine wirksame Einwilligung. Ein zentrales Problem: Die Altersverifikation war faktisch nicht vorhanden. Die App erlaubte auch Kindern unter 18 Jahren den Zugang zu Inhalten. Damit verletzte Replika nicht nur Artikel 6 (Rechtmäßigkeit der Verarbeitung), sondern auch Artikel 8 DSGVO, der besondere Schutzvorschriften für Dienste mit Kindern vorsieht.
Hinzu kommt die mangelhafte Transparenz: Nutzer:innen wurden nicht ausreichend über den Zweck der Datenverarbeitung informiert. Das Fehlen klarer Informationen zur Datenverwendung stellt einen weiteren Verstoß gegen Artikel 13 und 14 DSGVO dar.
Das Verbot in Italien setzt ein deutliches Signal: Künstliche Intelligenz darf nicht auf Kosten des Datenschutzes und des Kinderschutzes operieren. Diese Entscheidung könnte juristische Folgen in der gesamten EU nach sich ziehen und zwingt Anbieter KI-gestützter Dienste, ihre datenschutzrechtlichen Standards dringend zu überarbeiten, besonders im Hinblick auf vulnerable Zielgruppen wie Minderjährige.
Quellen:
Das Beitragsbild sowie der Beitragstext wurden mithilfe von KI-Systemen generiert, wobei die Kontrolle über das Ergebnis bei natürlichen Personen lag. Sämtliche Eingaben in KI-Systemen verfolgten Zwecke der wissenschaftlichen Forschung.