ChatGPT: KI erkennt Minderjährige automatisch am Nutzungsverhalten

OpenAI schaltet für seinen KI-Chatbot ChatGPT ein automatisches Alterserkennungssystem frei. Es soll Jugendliche vor schädlichen Inhalten schützen und kommt nun weltweit – auch in der EU.

Die neue Funktion analysiert das Nutzungsverhalten, um Accounts von Minderjährigen zu identifizieren. Statt sich nur auf das angegebene Geburtsdatum zu verlassen, wertet die KI Faktoren wie das Kontoalter, typische Nutzungszeiten und langfristige Aktivitätsmuster aus. Wird ein Nutzer als potenziell unter 18 eingestuft, aktiviert das System automatisch strengere Content-Filter.

Wie die verhaltensbasierte Alterserkennung funktioniert

Die eingeschränkte Erfahrung für mutmaßliche Minderjährige blockiert Zugang zu sensiblen Themen. Dazu gehören grafische Gewaltdarstellungen, Inhalte zu Selbstverletzung, sexuelle oder gewalttätige Rollenspiel-Szenarien sowie Material, das extreme Schönheitsideale oder ungesunde Diäten promotet.

Passend zum Thema EU-KI-Regulierung: Die neue EU-KI-Verordnung stellt Anbieter und Entwickler vor konkrete Pflichten – von Risikoklassifizierung bis zu Dokumentationsanforderungen. Wer die Vorgaben nicht beachtet, riskiert rechtliche Probleme und Einschränkungen bei der Produktnutzung. Ein kostenloser Umsetzungsleitfaden erklärt praxisnah, welche Schritte jetzt nötig sind, wie Sie KI-Systeme korrekt klassifizieren und anzeigenpflichtige Prozesse sauber dokumentieren. Jetzt kostenlosen KI-Verordnungs-Leitfaden herunterladen

Doch was, wenn ein volljähriger Nutzer fälschlicherweise eingeschränkt wird? Für diesen Fall hat OpenAI einen Verifizierungsweg eingerichtet. Über eine Partnerschaft mit dem Identitätsdienst Persona können Nutzer ein Selfie zur Altersbestätigung einreichen, um den vollen Zugang wiederherzustellen. Bei Unsicherheit gilt stets die restriktivere, sicherere Variante.

Proaktive Antwort auf wachsende Sicherheitsbedenken

Die Einführung ist eine direkte Reaktion auf den zunehmenden Druck von Aufsichtsbehörden und die öffentliche Debatte um den Einfluss von KI-Chatbots auf Jugendliche. Tragische Vorfälle und Klagen hatten den Handlungsbedarf verdeutlicht. OpenAIs Schritt wird als proaktive Maßnahme gewertet, um höhere Standards für den verantwortungsvollen KI-Einsatz zu setzen.

Die Technologie bildet zudem die Grundlage für geplante Neuerungen. Berichten zufolge bereitet OpenAI einen „Erwachsenenmodus“ für ChatGPT vor. Dieser würde verifizierten erwachsenen Nutzern Zugang zu expliziteren Inhalten gewähren. Eine zuverlässige Unterscheidung der Nutzergruppen ist dafür essenziell.

Neue Tools für Eltern und der Blick nach vorn

Neben den automatischen Filtern erhalten Eltern mehr direkte Kontrolle. Neue Elternfunktionen erlauben die Anpassung von Teenager-Accounts. Eltern können „ruhige Stunden“ festlegen, in denen der Chatbot nicht genutzt werden kann. Sie erhalten auch Benachrichtigungen, sollte das System Anzeichen akuter Notlage erkennen.

Der Rollout der Alterserkennung ist ein fortlaufender Prozess. OpenAI will die Einführung genau beobachten, um herauszufinden, welche Verhaltenssignale die genauesten Ergebnisse liefern. Diese Erkenntnisse sollen zur kontinuierlichen Verbesserung des Modells genutzt werden.

Branchenbeobachter gehen davon aus, dass dieser Schritt des Marktführers die Sicherheitsstandards in der gesamten KI-Branche beeinflussen wird. Mit Regulierungen wie dem EU AI Act werden proaktive Altersprüftechnologien für KI-Anbieter immer wichtiger. Sie setzen einen Präzedenzfall dafür, wie KI-Plattformen Nutzerfreiheit mit dem Schutz junger Menschen in Einklang bringen können.

PS: Sie möchten sicherstellen, dass Altersprüfungen und Content-Filter künftig rechtssicher bleiben? Unser kostenloses E‑Book zur EU-KI-Verordnung fasst Anforderungen, Übergangsfristen und konkrete Umsetzungstipps kompakt zusammen – ideal für Produktmanager, Entwickler und Datenschutzverantwortliche. Erfahren Sie, welche Dokumentation Pflicht ist und wie Sie Compliance ohne großen Mehraufwand erreichen. Jetzt E-Book zur EU-KI-Verordnung sichern