EU geht gegen digitale Kinderrisiken vor

Brüssel verschärft den Druck auf Tech-Konzerne und Spielzeughersteller: Ein Dreifachschlag aus neuen Berichten und Abstimmungen markiert einen Wendepunkt im Kinderschutz.

Die Europäische Union startet eine koordinierte Offensive zum Schutz Minderjähriger im digitalen Raum. Binnen 72 Stunden veröffentlichte die EU-Kommission ihren ersten „Systemrisiko-Bericht” zum Digital Services Act (DSA) und bereitet für morgen eine historische Abstimmung über die Sicherheit vernetzter Spielzeuge vor.

Am Freitag, dem 21. November, bestätigte der Forschungsdienst des Europäischen Parlaments: Die Abgeordneten stimmen am Dienstag über die überarbeitete Spielzeugsicherheitsverordnung ab. Diese Gesetzesänderung bricht mit bisherigen Standards – erstmals werden nicht nur physische Gefahren wie Erstickungsrisiken reguliert, sondern explizit auch „Risiken für die psychische Gesundheit” durch digital vernetzte Produkte.

Die Offensive folgt unmittelbar auf den ersten DSA-Systemrisikobericht der EU-Kommission, der Ende letzter Woche erschien. Das Fazit: Der Schutz Minderjähriger ist die größte Schwachstelle auf allen Very Large Online Platforms (VLOPs).

Passend zum Thema EU-KI-Regeln: Die neue EU-KI-Verordnung legt Kennzeichnungspflichten, Risikoklassifizierungen und strikte Dokumentationspflichten fest — Punkte, die gerade Hersteller von internetfähigen Spielzeugen und Plattformbetreiber direkt treffen. Wer die Anforderungen früh versteht, kann Compliance-Kosten senken und teure Nachbesserungen vermeiden. Der kostenlose Umsetzungsleitfaden erklärt Schritt für Schritt, welche Pflichten gelten, welche Fristen wichtig sind und wie Sie Ihr KI-System richtig klassifizieren. Jetzt kostenlosen KI-Umsetzungsleitfaden herunterladen

Der bedeutendste Durchbruch des Wochenendes: Das Parlament reguliert künftig die psychologischen Auswirkungen von Hardware. Laut der am Freitag veröffentlichten Plenaragenda ersetzt die neue Spielzeugsicherheitsverordnung die Richtlinie von 2009 und führt strikte Regeln für „internetfähige Spielzeuge” mit sozialen Interaktionsfunktionen ein – etwa KI-gesteuerte Puppen oder smarte Lernspielzeuge.

Künftig müssen Hersteller vernetzter Spielzeuge Konformitätsprüfungen durch unabhängige Dritte durchführen lassen. Diese Prüfungen bewerten ausdrücklich Risiken für die kognitive Entwicklung und psychische Gesundheit von Kindern. Ein „smarter Teddybär”, der Kinder abhört, unterliegt damit derselben regulatorischen Kontrolle wie Hochrisiko-Software.

„Die überarbeitete Verordnung verlangt, dass bei der Sicherheitsbewertung digital vernetzter Spielzeuge die Verletzlichkeit von Kindern berücksichtigt wird – einschließlich Risiken für die psychische Gesundheit”, heißt es im Parlamentsbriefing. Die Verordnung zielt zudem darauf ab, „soziale Interaktionsfunktionen” zu verbieten, die für Manipulation oder Grooming missbraucht werden könnten. Produkte müssen „sicher konzipiert” sein, bevor sie in die Regale kommen.

Erster DSA-Risikobericht deckt gravierende Lücken auf

Während das Parlament über Hardware entscheidet, arbeitet die EU-Kommission die Erkenntnisse ihres ersten Systemiskriko-Berichts auf. Das am 20. November veröffentlichte Dokument wurde über das Wochenende von Branchenbeobachtern intensiv analysiert.

Der Bericht – eine Pflicht unter dem DSA – kartiert erstmals umfassend die Bedrohungen durch VLOPs wie TikTok, Instagram und YouTube. Als systemischen Schwachpunkt identifiziert er explizit den „Schutz Minderjähriger”. Die Risiken reichen von „suchtfördernden Designmerkmalen” bis zur „kommerziellen Ausbeutung von Kinder-Influencern”.

Zentrale Erkenntnisse des Ausschusses der Koordinatoren für digitale Dienste:

• Algorithmische Verstärkung: Empfehlungssysteme spielen Minderjährigen weiterhin schädliche Inhalte aus – darunter Material zu Selbstverletzung und Essstörungen – trotz angeblicher Gegenmaßnahmen.
• Unzureichende Altersverifikation: Der Bericht kritisiert aktuelle Altersprüfungen als „uneinheitlich” und „leicht zu umgehen”, wodurch Kinder unangemessenen Inhalten ausgesetzt bleiben.
• Neue KI-Bedrohungen: Die Kommission hebt den Einsatz generativer KI zur Erstellung „nicht einvernehmlicher sexualisierter Darstellungen” (Deepfake-Nacktbilder) hervor, ein Trend, der Ende 2025 massiv zugenommen hat.

„Dieser Bericht liefert die Beweisgrundlage für die nächste Durchsetzungswelle”, erklärte ein Kommissionssprecher. „Wir gehen von der Compliance-Phase in die Enforcement-Phase über. Plattformen, die diese spezifischen Risiken nicht mindern, werden sanktioniert.”

Forderung nach Mindestalter von 16 Jahren

Der regulatorische Druck verstärkt sich durch einen separaten Bericht des Parlamentsausschusses für Binnenmarkt und Verbraucherschutz (IMCO), der die Brüsseler Politikdiskussionen am Wochenende dominierte. Laut Freitagsbriefing drängt der Ausschuss die Kommission, ein EU-weites „digitales Mindestalter” von 16 Jahren für Social-Media-Zugang ohne elterliche Zustimmung einzuführen.

Während der DSA derzeit auf Risikominderung fokussiert, argumentiert der IMCO-Bericht: „Minderung reicht nicht aus.” Er fordert:

• Ein Verbot suchtfördernder Designmerkmale wie Endlos-Scrolling und Autoplay für Minderjährigen-Konten.
• Verbot der „Kidfluencing”-Monetarisierung – Plattformen dürfen Minderjährige nicht finanziell incentivieren, Inhalte zu erstellen.
• Strikte Grenzen beim Profiling: Empfehlungsalgorithmen dürfen Minderjährige nicht auf Basis ihrer Verhaltensdaten targetieren.

„Junge Menschen gehen heute anders online als frühere Generationen”, bemerkte der IMCO-Berichterstatter in einer Stellungnahme vom Freitag. „Es geht nicht nur um Bildschirmzeit – sondern darum, was sie sehen und wie sie mit Inhalten interagieren, die bewusst süchtig machend gestaltet sind.”

Industrie unter Druck

Tech-Verbände analysierten über das Wochenende die Doppelbedrohung aus Systemrisikobericht und kommender Spielzeugsicherheitsverordnung. Die Einbeziehung „psychischer Gesundheit” als Sicherheitskriterium für physische Produkte gilt als Paradigmenwechsel, der den aufstrebenden Markt für „KI-Begleiter” zu einer Neugestaltung zwingen könnte.

„Wenn ein Spielzeughersteller für die Auswirkungen eines KI-Chatbots in einer Puppe auf die psychische Gesundheit haftet, explodieren die Compliance-Kosten”, analysierte die Digitalexpertin Dr. Elena Vossen am Sonntag. „Das überbrückt die Lücke zwischen Produktsicherheit und digitaler Sicherheit auf eine bisher nicht dagewesene Weise.”

Was als nächstes kommt:

• Dienstag, 25. November: Das Europäische Parlament stimmt über die Spielzeugsicherheitsverordnung ab. Eine Zustimmung gilt als sicher und würde das Gesetz zur finalen Verabschiedung bringen.
• Dezember 2025: Die Kommission wird voraussichtlich formelle „Informationsanfragen” (RFIs) an VLOPs versenden – speziell zur Minderung der im Systemrisikobericht identifizierten Risiken für die psychische Gesundheit.
• Erstes Quartal 2026: Die Umsetzung der Vorschläge zum „Digital Fairness Act” könnte beginnen und die 16-Jahres-Altersgrenze einschließen, falls die Druckkampagne des Parlaments Erfolg hat.

Die Botschaft aus Brüssel zur beginnenden Weihnachtseinkaufssaison ist unmissverständlich: Ob Social-Media-App oder WLAN-fähiger Teddybär – wer Kinder ins Visier nimmt, steht jetzt unter der Lupe.

PS: KI-gesteuerte Puppen und smarte Lernspielzeuge stehen im Fokus der neuen Regeln — sind Ihre Produkte vorbereitet? Der kompakte Gratis-Leitfaden zur EU-KI-Verordnung zeigt praxisnah, welche Nachweise, Kennzeichnungen und Dokumentationen jetzt gefordert sind und wie Sie Fristen und Risikoklassen einhalten. Perfekt für Entwickler, Compliance-Teams und Produktmanager, die rechtssicher handeln wollen. Kostenfreien AI-Act-Leitfaden sichern