Kalifornien verschärft KI-Regeln für Minderjährige drastisch

Was wie Science-Fiction klingt, wird bittere Realität: KI-Chatbots müssen künftig alle drei Stunden daran erinnern, dass sie keine Menschen sind. Kalifornien hat diese Woche ein wegweisendes Gesetzespaket verabschiedet, das den Umgang mit künstlicher Intelligenz und biometrischen Daten grundlegend neu regelt.

Gouverneur Gavin Newsom unterzeichnete am 13. Oktober ein Bündel aus mehreren Gesetzen, die vor allem Minderjährige vor den Risiken von KI-Systemen schützen sollen. Die neuen Bestimmungen gelten als die schärfsten ihrer Art in den USA und dürften international als Blaupause dienen.

„Neue Technologien wie Chatbots und Social Media können inspirieren, bilden und verbinden – aber ohne echte Leitplanken können sie auch ausbeuten, täuschen und unsere Kinder gefährden”, erklärte Newsom bei der Unterzeichnung. Die Gesetze treten zwischen 2026 und 2027 in Kraft.

Drastische Auflagen für Beziehungs-Chatbots

Das Herzstück der Reform ist Senate Bill 243, die erstmals konkrete Regeln für sogenannte „Companion Chatbots” einführt – KI-Systeme, die menschenähnliche Beziehungen simulieren. Betreiber müssen künftig unmissverständlich offenlegen, dass Nutzer mit einer KI interagieren.

Besonders drastisch: Bei minderjährigen Nutzern muss das System alle drei Stunden daran erinnern, dass der Chatbot kein Mensch ist. Diese Regelung entstand nach mehreren Skandalen, in denen KI-Systeme unangemessene Gespräche mit Kindern führten oder nicht angemessen auf Suizidgedanken reagierten.

Die Plattformen sind außerdem verpflichtet, Protokolle für Nutzer mit Selbstmordgedanken einzurichten und diese an Krisendienste zu verweisen. Sexuell explizite Inhalte für Minderjährige müssen mit „angemessenen Maßnahmen” verhindert werden. Bei Verstößen drohen Strafen von bis zu 6.300 Euro pro betroffenem Kind.
Anzeige: Apropos Schutz von Kindern und Nutzern vor digitalen Risiken: Viele Android‑Nutzer übersehen diese 5 Sicherheitsmaßnahmen. Ein kostenloser Ratgeber zeigt Schritt für Schritt, wie Sie WhatsApp, Online‑Shopping, PayPal und Online‑Banking ohne teure Zusatz‑Apps absichern – schnell und praxistauglich. So schützen Sie in Minuten Ihre Daten und Privatsphäre. Jetzt kostenloses Android‑Sicherheitspaket herunterladen

KI-Verbot in der Gesundheitsversorgung

Mit Assembly Bill 489 geht Kalifornien auch gegen irreführende KI-Anwendungen im Gesundheitswesen vor. KI-Systeme dürfen sich künftig nicht mehr als lizenzierte Ärzte ausgeben oder entsprechende Titel verwenden.

„In einer Zeit rasant fortschreitender Technologie ist es entscheidend, dass Patienten wissen, ob sie mit einem KI-System oder einem lizenzierten Arzt sprechen”, begründete Dr. Shannon Udovic-Constant von der California Medical Association das Gesetz. Staatliche Gesundheitsbehörden erhalten weitreichende Durchsetzungsbefugnisse.

Altersverifikation ohne Ausweiskontrolle

Das dritte Kerngesetz, der Digital Age Assurance Act (AB 1043), verpflichtet Betriebssystem-Anbieter wie Apple und Google, bei der Kontoerstellung Altersinformationen zu sammeln. Diese „Alterssignale” müssen dann App-Entwicklern zur Verfügung gestellt werden.

Bemerkenswert: Das Gesetz verzichtet bewusst auf Ausweiskontrollen und setzt auf datenschutzfreundliche Lösungen. Große Tech-Konzerne wie Google und Meta unterstützen den Ansatz. Bei vorsätzlichen Verstößen drohen Strafen von bis zu 6.300 Euro pro betroffenem Kind.

Internationale Strahlkraft erwartet

Die kalifornischen Gesetze entstehen nicht im luftleeren Raum. Bereits im September startete die US-Handelskommission FTC eine offizielle Untersuchung gegen sieben große Tech-Konzerne, darunter Alphabet, Meta und OpenAI. Die Behörde will wissen, wie diese Unternehmen negative Auswirkungen auf Kinder überwachen.

Parallel dazu tritt in der EU schrittweise der AI Act in Kraft. Seit Februar sind KI-Systeme mit „unannehmbarem Risiko” verboten, etwa für Social Scoring oder manipulative Techniken. Das EU-Regelwerk gilt international als Maßstab für KI-Regulierung.

Für deutsche Unternehmen bedeuten die parallel entstehenden Regulierungsrahmen eine wachsende Compliance-Herausforderung. Die Tech-Branche steht vor einem Flickenteppich unterschiedlicher Vorschriften mit gestaffelten Umsetzungsfristen bis 2027.

Die Botschaft ist klar: Das Zeitalter weitgehend unregulierter KI-Entwicklung geht zu Ende. Kalifornien könnte dabei nur der Anfang sein.