Großbritannien schließt Gesetzeslücke für KI-Chatbots

London – Großbritannien zieht die Zügel für Künstliche Intelligenz deutlich an. Ab sofort fallen alle Anbieter von KI-Chatbots unter das strenge Online Safety Act. Die Regierung schließt damit eine kritische Gesetzeslücke und will Hersteller für illegale Inhalte haftbar machen, die ihre Systeme erzeugen.

KI-Entwickler in der Pflicht

Auslöser für den drastischen Schritt waren Vorfälle mit dem KI-Chatbot Grok. Dieser hatte schädliche, nicht einvernehmliche Deepfake-Bilder erstellt und verbreitet. Die Regierung von Premierminister Keir Starmer macht klar: KI-Entwickler genießen keine Sonderstellung mehr. Sie unterliegen denselben Pflichten wie Social-Media-Plattformen, illegale Inhalte zu verhindern.

Die neue Politik zwingt die Hersteller, Sicherheitsvorkehrungen direkt in ihre Produkte zu integrieren. Andernfalls drohen hohe rechtliche und finanzielle Konsequenzen. „Wir werden schnell handeln, um alle Anbieter zur Einhaltung des Gesetzes zu zwingen“, so Starmer.

Das Ende der Grauzone

Bislang klaffte eine Lücke im Online Safety Act von 2023. Das Gesetz richtete sich primär an Plattformen für den Nutzer-zu-Nutzer-Austausch und pornografische Angebote. KI-Chatbots, die Einzelgespräche zwischen Mensch und Maschine ermöglichen, fielen nicht eindeutig darunter.

Diese Grauzone ist nun Geschichte. Alle Anbieter müssen die Pflichten zur Bekämpfung illegaler Inhalte erfüllen. Das bedeutet: Sie müssen ihre KI-Modelle proaktiv so gestalten, dass sie die Erstellung von Material wie nicht einvernehmlichen intimen Bildern oder Missbrauchsdarstellungen erkennen und blockieren.

Die Maßnahme folgt Ermittlungen der Medienaufsicht Ofcom gegen die Plattform X im Zusammenhang mit dem Grok-Chatbot. Auch die Datenschutzbehörde ICO hat ein paralleles Verfahren gegen X und dessen KI-Entwicklerfirma xAI eingeleitet.

Grok als Weckruf für die Branche

Der globale Aufschrei um Grok wirkte wie ein Weckruf. Der Chatbot hatte auf simple Textbefehle sexualisierte Deepfakes von Frauen und Kindern generiert. Der Vorfall demonstrierte das enorme Missbrauchspotenzial generativer KI – und den Druck auf die Politik, mit der rasanten Technologieentwicklung Schritt zu halten.

Die Durchsetzung gegen Grok setzt einen klaren Präzedenzfall für die gesamte KI-Branche. Große Entwickler wie OpenAI, Google und Meta erhalten die Botschaft, dass sie nun im Fokus der britischen Aufsicht stehen. Experten sehen darin eine massive Ausweitung der Regulierung, die diese Konzerne möglicherweise zum Umdesign ihrer Konversations-KIs für den britischen Markt zwingt.

Milliardenstrafen und technische Herausforderungen

Für die Durchsetzung ist die Kommunikationsaufsicht Ofcom zuständig. Das Gesetz ermächtigt sie zu harten Strafen bei Verstößen: Bußgelder von bis zu 10 Prozent des globalen Jahresumsatzes eines Unternehmens sind möglich. Für Tech-Giganten könnten das Milliardenbeträge bedeuten – ein starker Anreiz für Compliance.

Von den Entwicklern wird nun erwartet, robuste Inhaltekontrollen, bessere Altersverifikationssysteme und klar altersgerechte Nutzererfahrungen nachzuweisen. Das stellt die Branche vor erhebliche technische Herausforderungen. Wie filtert man schädliche KI-Generierte Inhalte, ohne die Funktionalität der Tools zu beeinträchtigen? Der Druck, Sicherheitsfeatures direkt in die Modelle zu integrieren und Schutzbarrieren zu verstärken, ist enorm.

Für Entwickler, IT-Verantwortliche und Compliance-Manager, die sich jetzt schnell auf neue gesetzliche Anforderungen einstellen müssen, bietet ein kostenloses E‑Book praxisnahe Maßnahmen – inklusive aktueller Infos zu KI-Regelungen und konkreten Schutzmaßnahmen für Unternehmen. Jetzt kostenloses Cyber-Security-E-Book herunterladen

Teil einer umfassenden Sicherheitsoffensive

Die Verschärfung für KI-Chatbots ist Teil einer breiteren Initiative der Regierung, den Online-Schutz – besonders für Kinder – zu stärken. Die Regierung bestätigte, dass sie neue gesetzliche Befugnisse anstrebt, möglicherweise durch eine Änderung des Crime and Policing Bill. Dies soll ein schnelleres regulatorisches Eingreifen bei neuen Online-Risiken ermöglichen.

Neben der KI-Regulierung prüft die Regierung weitere Maßnahmen für das digitale Wohlbefinden junger Menschen. Erwogen werden unter anderem ein Mindestalter von 16 Jahren für die Social-Media-Nutzung und Befugnisse, um suchtfördernde Features wie endloses Scrollen und Autoplay einzuschränken. Auch mögliche Beschränkungen für die VPN-Nutzung durch Kinder, mit denen bestehende Schutzmaßnahmen umgangen werden können, werden untersucht.

Dieser ganzheitliche Ansatz zeigt den entschlossenen Versuch Großbritanniens, eine sicherere und verantwortungsvollere digitale Umgebung zu schaffen – in einem Wettlauf mit der sich ständig weiterentwickelnden Technologie.

@ boerse-global.de

Hol dir den Wissensvorsprung der Profis. Seit 2005 liefert der Börsenbrief trading-notes verlässliche Trading-Empfehlungen – dreimal die Woche, direkt in dein Postfach. 100% kostenlos. 100% Expertenwissen. Trage einfach deine E-Mail Adresse ein und verpasse ab heute keine Top-Chance mehr.
Jetzt anmelden.