Am 17. September 2026 legte die Europäische Kommission den EU-KIDS-Act vor, einen Entwurf für eine neue Verordnung, die den Schutz von Minderjährigen bei der Nutzung digitaler Dienste und KI-Systemen stärken soll. Der EU-KIDS-Act ist derzeit ein Gesetzgebungsvorschlag und noch kein geltendes Recht. Im Falle einer Verabschiedung würde die Verordnung EU-weite Anforderungen für die Altersüberprüfung, kindersichere Produktgestaltung, Kontaktschutz sowie KI-Begleiter und dialogorientierte Chatbots einführen, auch für Anbieter mit Sitz außerhalb der EU. Der Vorschlag ist insbesondere für Social-Media-Plattformen, Videoportale, Online-Spiele, App-Stores, Anbieter von Betriebssystemen sowie Anbieter von universell einsetzbaren dialogorientierten KI-Systemen, also Chatbots, relevant.
Wichtige Erkenntnisse für Anbieter digitaler Dienste
- Unabhängige Accounts in den betroffenen sozialen Netzwerken und auf Videoplattformen mit „risikobehafteten“ Funktionen wären für Nutzer unter 15 Jahren grundsätzlich verboten.
- Für wesentliche Accountbeschränkungen wäre eine zertifizierte, datenschutzkonforme Altersüberprüfung erforderlich.
- Die betroffenen Dienste müssten Anforderungen hinsichtlich kindersicherer Gestaltung, Kontaktschutz und Standardeinstellungen erfüllen.
- KI-Begleiter und dialogorientierte Chatbots unterlägen spezifischen Verpflichtungen hinsichtlich Design, Tests, Überwachung und elterlicher Kontrolle.
- Der Vorschlag würde für bestimmte Anbieter außerhalb der EU gelten und könnte dazu führen, dass Anbietern von KI-Begleitern und Chatbots Geldbußen in Höhe von bis zu 6 % des weltweiten Jahresumsatzes auferlegt werden.
- soziale Netzwerke;
- Videoplattformen;
- Online-Spiele;
- App-Stores;
- Betriebssysteme, soweit es um die Übermittlung von Altersangaben geht; sowie
- KI-Begleiter und universell einsetzbare dialogorientierte Chatbots.
- ein Verbot von Designmerkmalen, die Minderjährige zu zwanghaftem oder übermäßigem Konsum anregen, darunter die automatische Wiedergabe und der ununterbrochene Konsum von Inhalten ohne wirksame Pausen, bestimmte Benachrichtigungen zur Wiederaktivierung sowie Belohnungsmechanismen, die zu wiederholtem Konsum anregen;
- Zeitbeschränkungen zum Schutz der Schulzeit und der Kernschlafzeiten;
- Empfehlungssysteme, die Sicherheit und psychische Gesundheit in den Vordergrund stellen, mit einer obligatorischen Option zur Deaktivierung der Profilerstellung und standardmäßig deaktivierten, auf Interaktion basierenden Signalen;
- sichere Standardeinstellungen, beispielsweise deaktivierte Funktionen für Standort, Kamera, Mikrofon und Push-Benachrichtigungen;
- ein Verbot, Minderjährige in sozialen Netzwerken und auf Videoplattformen variablen Belohnungssystemen auszusetzen; sowie
- kinderfreundliche Meldemöglichkeiten und Tools für Erziehungsberechtigte.
- Geldbußen: Bei Verstößen gegen die Verordnung bis zu 6 % des weltweiten Jahresumsatzes für KI-Begleiter und Chatbots; für andere Dienste würde das Sanktionssystem des DSA gelten.
- Aufsichtsgebühr: Für Anbieter, die der Aufsicht der Kommission unterliegen, bis zu 0,03 % des weltweiten Jahresnettoeinkommens zur Deckung der Aufsichtskosten (keine Strafe).
Geltungsbereich des EU-KIDS-Gesetzes: Betroffene Dienste und Anbieter
Der EU-KIDS-Act ist ein Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates auf der Grundlage von Artikel 114 des Vertrags über die Arbeitsweise der Europäischen Union (AEUV).
Der Vorschlag würde für ein breites Spektrum digitaler Dienste gelten, einschließlich solcher, die von in Drittländern ansässigen Anbietern bereitgestellt werden. Zu den erfassten Diensten gehören:
Gemeinnützige Online-Enzyklopädien und Bildungs- oder wissenschaftliche Repositorien, qualifizierte Bildungs- und Forschungsdienste, bestimmte Dienste öffentlicher Stellen sowie Plattformen zur Entwicklung und zum Austausch von Open-Source-Software wären vorbehaltlich der im Vorschlag festgelegten Bedingungen ausgenommen. Dialogorientierte KI-Systeme, die auf spezielle Funktionen beschränkt sind, wie beispielsweise bestimmte Anwendungen im Kundenservice und im technischen Support, würden nicht als universell einsetzbare dialogorientierte Chatbots gelten. Kleinst- und Kleinunternehmen sind grundsätzlich nicht ausgenommen, obwohl bestimmte Überwachungspflichten für KI-Chatbots für sie nicht gelten würden.
Wichtige Anforderungen des EU-KIDS-Gesetzes für Anbieter digitaler Dienste
Altersgrenzen und Regeln für bestehende Nutzerkonten
Für betroffene soziale Netzwerke und Videoplattformen mit risikobehafteten Funktionen wären eigenständige Konten für Personen unter 15 Jahren verboten. Für 13- und 14-Jährige können Erziehungsberechtigte Konten mit eingeschränkten Funktionen einrichten, wobei eine maximale Nutzungsdauer von einer Stunde pro Tag, elterliche Kontrolle und die Genehmigung von Kontakten gelten. Bei diesen Diensten wären keine Konten für Kinder unter 13 Jahren zulässig. Kinderspezifische Videoplattformen dürfen ausnahmsweise einen begleiteten Zugang über das Konto eines Erziehungsberechtigten gestatten, der auf eine Stunde täglich begrenzt ist und nicht für Kinder unter drei Jahren gilt.
Innerhalb von sechs Monaten nach Antragstellung müssten die Anbieter das Alter bestehender Kontoinhaber klären und diejenigen Konten sperren, die von Nutzern unter 15 Jahren geführt werden oder deren Alter nicht bestimmt werden kann, es sei denn, der Anbieter könnte das Mindestalter mit hoher Sicherheit feststellen.
Zertifizierte Altersüberprüfung und elterliche Verantwortung
Eine Selbsterklärung würde nicht ausreichen. Für die Kontobeschränkungen wären nur zertifizierte, datenschutzkonforme EU-Lösungen zur Altersüberprüfung (Zero-Knowledge-Prinzip) zulässig. Für die Sicherheitsanforderungen wären andere Methoden erlaubt, sofern sie gleichwertige Standards erfüllen. Die Mitgliedstaaten wären verpflichtet, eine kostenlose Überprüfungslösung sowie eine Möglichkeit zum Nachweis der elterlichen Verantwortung bereitzustellen.
Anforderungen an ein kindersicheres Design für Online-Plattformen
Der Vorschlag würde vorschreiben, dass soziale Netzwerke und Videoplattformen standardmäßig auf Kindersicherheit ausgelegt sein müssen.
Zu den wichtigsten Verpflichtungen gehören:
Für Online-Spiele und KI-Chatbots würden entsprechend angepasste Teile dieser Anforderungen gelten. App-Stores müssten Altersfreigaben anwenden und den Zugriff von Minderjährigen auf Apps blockieren, die nicht altersgerecht sind.
Kontakt- und Datenschutzmaßnahmen für Minderjährige
Ein direkter Kontakt mit Minderjährigen wäre nur nach vorheriger Genehmigung möglich, das Hinzufügen zu Gruppen würde eine ausdrückliche Einwilligung erfordern, und Minderjährige müssten andere Nutzer blockieren können, ohne ihre Identität gegenüber dem blockierten Nutzer preiszugeben. Minderjährige würden nicht in Kontaktempfehlungen einbezogen, und ihre Profile wären standardmäßig für Fremde nicht sichtbar.
Anforderungen an KI-Begleiter und dialogorientierte Chatbots
Anbieter müssten Designmerkmale vermeiden, die durch simulierte zwischenmenschliche Beziehungen eine emotionale Abhängigkeit hervorrufen können. Der Vorschlag sieht Risikoprüfungen vor der Markteinführung und eine Überwachung nach der Markteinführung vor (Letzteres gilt nicht für Kleinst- und Kleinunternehmen). Die Verwendung von Informationen oder Analysen, die aus früheren Interaktionen des Minderjährigen abgeleitet wurden, in nachfolgenden Gesprächen wäre standardmäßig deaktiviert, es sei denn, dies ist zum Schutz des Minderjährigen erforderlich, und der Zugang für Nutzer unter 13 Jahren wäre nur über die elterliche Kontrolle möglich.
Durchsetzung, Bußgelder und Aufsichtsgebühren gemäß dem EU-KIDS-Gesetz
Der Vorschlag baut auf den bestehenden Durchsetzungsrahmen der Verordnungüberdigitale Dienste (DSA) und des EU-KI-Verordnung auf, wobei die Aufsichtszuständigkeiten zwischen der Europäischen Kommission und den zuständigen nationalen Behörden aufgeteilt sind. Datenschutzbehörden würden die Einhaltung der Datenschutzanforderungen zur Altersüberprüfung separat überwachen, und könnten gemäß der DSGVO Bußgelder verhängen. Sehr große soziale Netzwerke und Videoplattformen wären verpflichtet, einen Compliance-Plan vorlegen zu lassen, der von unabhängigen Prüfern bewertet wird.
Zu den finanziellen Konsequenzen würden gehören:
Minderjährige und Erziehungsberechtigte hätten ein Beschwerderecht und könnten Organisationen beauftragen, in ihrem Namen zu handeln.
Gesetzgebungszeitplan und nächste Schritte
Der EU-KIDS-Act ist nach wie vor ein Vorschlag und kann sich im Laufe des Gesetzgebungsverfahrens noch ändern. Nach dem derzeitigen Entwurf würde die Verordnung – mit bestimmten Ausnahmen – grundsätzlich sechs Monate nach ihrem Inkrafttreten gelten. Insbesondere würden die Bestimmungen zu Compliance-Plänen für sehr große Plattformen ab dem Datum des Inkrafttretens gelten, während bestimmte nationale Unterstützungsmaßnahmen und beschleunigte Durchsetzungsverfahren erst nach 12 Monaten zur Anwendung kämen. Die Kommission könnte zudem bestimmte Anforderungen durch delegierte Rechtsakte ändern. Sollte der Vorschlag in der vorliegenden Form angenommen werden, würde dies die Art und Weise, wie die betroffenen Dienste Minderjährige als Nutzer gewinnen, ihre Produkte gestalten und KI-Chatbots regeln neu gestalten. Die Überprüfung durch die Kommission wird derzeit bis zum 31. August 2030 erwartet.
Was Anbieter digitaler Dienste jetzt beachten sollten
Unternehmen sollten prüfen, ob ihre Dienste unter den vorgeschlagenen Geltungsbereich fallen könnten; ihre Verfahren zur Alterssicherung, Altersüberprüfung und Kundenregistrierung überprüfen; potenziell süchtig machende oder auf Interaktion ausgerichtete Designmerkmale identifizieren; Empfehlungssysteme und Standardeinstellungen untersuchen; sowie die Schutzmaßnahmen für die Interaktion von Minderjährigen mit KI-Begleitern und dialogorientierten Chatbots überprüfen. Bei allen Vorbereitungen sollte berücksichtigt werden, dass sich der Vorschlag im Laufe des Gesetzgebungsverfahrens noch ändern kann.
* Besonderer Dank gilt Assesor Jur. Felix Winter˘ für seinen Beitrag zu diesem GT Alert.
˘ Anwaltszulassung ausstehend.