Wenn der Chatbot zum Freund wird: Ein Chatbot ist jederzeit erreichbar, hört zu, antwortet und reagiert verständnisvoll. Was als praktische Unterstützung beginnt, kann für Kinder und Jugendliche zu einer emotionalen Bindung werden. Mit dem am 17. September 2026 vorgestellten Vorschlag für einen EU KIDS Act will die Europäische Kommission den Minderjährigenschutz im digitalen Raum stärken. Das geplante Regelwerk betrifft neben KI-Anwendungen unter anderem soziale Netzwerke, Videoplattformen und Online-Spiele.
Altersgrenzen und Schutzkonzept
Das Schutzkonzept der Kommission verbindet altersabhängige Zugangsbeschränkungen mit Anforderungen an die Produktgestaltung. Für soziale Netzwerke sieht der Vorschlag grundsätzlich keine Konten für unter 13-Jährige vor. Mit 13 und 14 Jahren sollen elternbegleitete Konten möglich sein, eigenständige Konten erst ab 15 Jahren. Diese Altersstaffel darf jedoch nicht pauschal auf sämtliche erfassten KI-Anwendungen übertragen werden. Für Chatbots sieht die Kommission besondere Schutzmaßnahmen vor.
Dabei folgt der Entwurf dem Gedanken „Safety by Design“: Schutz soll bereits in der Gestaltung der Dienste angelegt sein, um Minderjährige vor sog. „Rabbit Holes“ mit schädlichen Inhalten zu schützen. KI-Begleiter und Chatbots, die Minderjährigen zugänglich sind, sollen keine zwischenmenschlichen Beziehungen so simulieren dürfen, dass voraussichtlich emotionale Abhängigkeiten entstehen. Frühere Gespräche sollen standardmäßig nicht in spätere Unterhaltungen übernommen werden. Online-Dienste und App-Stores müssen Instrumente zur Altersfeststellung einsetzen, z. B. die EU-App zur Altersüberprüfung, in der zum Schutz der Privatsphäre keine Identitätsdokumente und biometrischen Daten gespeichert werden. Neukonteneröffnungen auf Plattformen von sozialen Medien und Video-Sharing-Plattformen müssen eine Altersüberprüfung durchlaufen, bestehende Konten müssen auf Grundlage angemessener Näherungswerte (z. B. Tag der Kontoerstellung, Kreditkartendaten) geprüft werden. Unter 13-Jährige sollen die Anwendungen nur über Konten der Erziehungsberechtigten und elterlicher Kontrollwerkzeuge auf eigens konzipierte kinderfreundliche Video-Sharing-Dienste zugreifen können. In Plattformen oder Spiele eingebundene Chatbots sollen außerdem nicht automatisch aktiviert oder Minderjährigen aufgedrängt werden.
Wo endet Unterstützung, wo beginnt Abhängigkeit?
Das Vorhaben richtet sich nicht ausschließlich gegen ausdrücklich als virtuelle Freunde vermarktete Anwendungen. Auch allgemeine KI-Chatbots können erfasst sein. Entscheidend sind die jeweiligen Funktionen und Interaktionsmöglichkeiten. Damit reicht der Ansatz über spezialisierte Angebote hinaus und könnte zahlreiche verbreitete KI-Dienste betreffen.
Eine persönliche Bindung kann nicht nur durch menschähnliche Avatare entstehen, sondern auch durch das Antwortverhalten. Ein verständnisvoller Ton kann helfen, schwierige Informationen zugänglich zu machen. Er kann aber auch dazu beitragen, dass Nutzer einem System menschliche Eigenschaften zuschreiben, etwa durch fortwährende Zustimmung, mitfühlende Reaktionen oder die Zuschreibung eigener Gefühle. Anbieter, die fremde Sprachmodelle verwenden, können dieses Verhalten zudem nur begrenzt beeinflussen. Anpassungender Benutzeroberfläche allein könnten deshalb unzureichend sein.
Die Grenze bleibt konkretisierungsbedürftig
Die zentrale Frage ist deshalb: Wann wird eine hilfreiche, zugewandte Kommunikation zur problematischen Beziehungssimulation? Entscheidend ist deshalb, welche Merkmale in ihrem Zusammenspiel eine problematische Bindung und eine emotionale Abhängigkeit begünstigen. Freundlichkeit allein wäre als Abgrenzungsmerkmal ungeeignet. Anbieter müssten erkennen können, welche Gestaltung zulässig bleibt. Es braucht überprüfbare Kriterien, die den jeweiligen Nutzungskontext und die besondere Schutzbedürftigkeit Minderjähriger berücksichtigen und Aufsichtsbehörden belastbare Anhaltspunkte für die Kontrolle liefern.
Der KIDS Act verdeutlicht damit eine zentrale Frage des KI-Rechts: Wie lassen sich Risiken regulieren, die erst durch die fortlaufende Interaktion zwischen Mensch und System entstehen? Ob die geplanten Regeln hierfür ausreichend bestimmt und praktisch wirksam sind, wird im weiteren Gesetzgebungsverfahren zu klären sein. Europäisches Parlament und Rat müssen über den Vorschlag verhandeln. Rückmeldungen zum Entwurf nimmt die Kommission bis zum 3. Dezember 2026 entgegen.
Quellen:
Frei/Filkinka, LTO vom 01.10.2026 „Chatbots reden zu menschlich, das ist ein Problem“:https://www.lto.de/recht/hintergruende/h/kids-act-eu-kommission-will-kinder-vor-ki-freunden-schuetzen
Europäische Kommission Pressemitteilung zum EU KIDS Act: https://ec.europa.eu/commission/presscorner/detail/de/ip_26_1890