X und Grok: Britische Regierung greift wegen Deepfake-Bildern durch

Die britische Regierung und die Aufsichtsbehörde Ofcom untersuchen X und xAI wegen der Nutzung des KI-Tools Grok zur Erstellung nicht einvernehmlicher Bilder. Es drohen hohe Geldstrafen nach dem Online Safety Act.

Die britische Regierung erhöht massiv den Druck auf die Plattform X. Grund sind Berichte, dass deren KI-Tool Grok zur Erstellung nicht einvernehmlicher Deepfake-Bilder genutzt wird. Technologie-Ministerin Liz Kendall verurteilte die Praxis am Dienstag scharf und forderte sofortige Abhilfe. Gleichzeitig leitete die Medienaufsicht Ofcom eine dringende Untersuchung ein.

Regierung verurteilt „demütigende“ KI-Inhalte

Im Zentrum des Skandals steht die Nutzung des kostenpflichtigen KI-Tool Grok. Medienberichten zufolge lassen sich damit sexuell explizite und nicht einvernehmliche Bilder von Frauen, Mädchen und in Einzelfällen Minderjährigen generieren. Nach einem Anstieg von Nutzerbeschwerden griff das Technologieministerium ein.

„Die Verbreitung solcher Bilder ist in einer anständigen Gesellschaft inakzeptabel“, erklärte Technologie-Ministerin Liz Kendall. Sie betonte, die Plattform trage die Verantwortung, die Erstellung und Verbreitung illegaler Inhalte zu verhindern. Es gehe hier nicht um Meinungsfreiheit, sondern um die Einhaltung des Gesetzes. Kendall sicherte der Aufsichtsbehörde Ofcom ihre volle Unterstützung zu.

Die EU‑Regeln für KI-Systeme stellen Anbieter generativer Modelle vor neue Pflichten – wer sie missachtet, riskiert empfindliche Sanktionen. Der kostenlose Umsetzungsleitfaden erklärt praxisnah Kennzeichnungspflichten, Risikoklassen und die notwendigen Dokumentationsschritte, damit Entwickler und Plattformbetreiber ihre Systeme korrekt klassifizieren und rechtssicher betreiben. Inklusive Checklisten zur schnellen Umsetzung und Praxisbeispielen für Compliance‑Teams. Jetzt kostenlosen KI‑Umsetzungsleitfaden sichern

Der Vorfall stellt einen ersten großen Test für den britischen Online Safety Act dar. Das Gesetz verpflichtet Plattformen, proaktiv gegen illegale Inhalte wie Missbrauchsdarstellungen oder nicht einvernehmliche intime Bilder vorzugehen.

Ofcom startet Dringlichkeitsprüfung der KI-Sicherheit

Parallel zur politischen Intervention hat die Medienaufsicht Ofcom eine offizielle Untersuchung eingeleitet. Die Behörde kontaktiert sowohl X als auch das für Grok verantwortliche KI-Unternehmen xAI von Elon Musk. Ofcom will klären, welche technischen Schutzvorkehrungen existieren und wie die Firmen ihre gesetzlichen Pflichten zum Schutz britischer Nutzer erfüllen wollen.

Die Antworten werden darüber entscheiden, ob Ofcom ein formelles Verfahren einleitet. Dies könnte hohe Geldstrafen nach sich ziehen. Das Gesetz erlaubt Bußgelder von bis zu zehn Prozent des weltweiten Jahresumsatzes eines Unternehmens. Die Durchsetzung gegen US-Tech-Giganten gilt jedoch als komplexe rechtliche Herausforderung.

„Spicy Mode“ und technische Lücken als Ursache

Ausgelöst wurde die Krise durch Updates von Grok. Nutzer fanden heraus, wie sie die Sicherheitsfilter umgehen konnten. Besonders die Funktionen „Spicy Mode“ und „Edit Image“ wurden genutzt, um Fotos realer Personen digital zu entkleiden – darunter Prominente und Privatpersonen.

Als Reaktion auf den Shitstorm warnte X am Sonntag Nutzer vor den Konsequenzen der Erstellung illegaler Inhalte, darunter dauerhafte Kontosperrungen. Das Unternehmen räumte vereinzelte Vorfälle ein, bei denen die KI Bilder minderjähriger Personen in knapper Kleidung generierte. Man arbeite kontinuierlich an Verbesserungen der Sicherheitsvorkehrungen.

Auf Nachfragen von Medien reagierte xAI am Dienstag jedoch abweisend. Eine automatisierte Presse-E-Mail wies die Vorwürfe als „Lügen der etablierten Medien“ zurück. Diese konfrontative Haltung belastet das Verhältnis zu den Aufsehern weiter, die darin mangelnden Ernst im Umgang mit Sicherheitsbedenken sehen.

Internationale Reaktionen und verschärfte Rechtslage

Großbritannien handelt nicht allein. Die Europäische Kommission bestätigte am Montag, dass sie die Vorgänge „sehr ernst“ nehme. EU-Beamte zeigten sich ähnlich empört und verwiesen auf mögliche Verstöße gegen den Digital Services Act (DSA). In Frankreich wurden Staatsanwälte über potenzielle Verstöße gegen Gesetze zu nicht einvernehmlicher sexualisierter Bildverbreitung informiert.

Rechtsexperten sehen X in einer prekären Lage. Im Gegensatz zu nutzergenerierten Inhalten, bei denen Plattformen oft auf „Safe Harbor“-Regelungen vertrauen können, ist Grok ein hauseigenes Tool. Diese Unterscheidung könnte die Haftung von X erhöhen, da die Plattform durch ihre KI-Algorithmen quasi zum Urheber der Bilder wird.

Sicherheits- und Forschungsgruppen wie das Institute for Strategic Dialogue weisen darauf hin, dass X zu einer zentralen Plattform für die Verbreitung von Deepfake-Missbrauch geworden sei. Die Erwähnung entsprechender Generierungstools habe dort Hunderttausende Male stattgefunden – ein Zeichen für ein systemisches Problem.

Ausblick: Der Kampf zwischen Regulierung und Innovation

Die Tech-Branche beobachtet gespannt, wie X den Konflikt zwischen seinem „free speech absolutist“-Ethos und dem sich verschärfenden regulatorischen Umfeld in Europa lösen wird.

Für das erste Quartal 2026 zeichnen sich mehrere Szenarien ab:
* Durchgreifen der Aufseher: Sollte Ofcom die Sicherheitsvorkehrungen für unzureichend halten, könnte die erste große Geldstrafe für KI-generierte Inhalte nach dem Online Safety Act verhängt werden.
* Einschränkung von Grok: xAI könnte gezwungen sein, aggressivere Filter einzubauen oder die Generierung menschlicher Figuren vorübergehend zu deaktivieren.
* Rechtlicher Präzedenzfall: Der Ausgang des Streits könnte weltweit Maßstäbe für die Regulierung generativer KI in sozialen Medien setzen.

Die Botschaft aus London ist eindeutig: Die Ära der Selbstregulierung für KI-Sicherheit ist vorbei. Die Geduld der Regierung ist am Ende. Die kommenden Wochen werden zeigen, ob der neue Rechtsrahmen scharf genug ist, um globale Tech-Giganten für ihre KI-Systeme zur Verantwortung zu ziehen.

PS: Die neuen Anforderungen an KI-Systeme bringen Fristen und Dokumentationspflichten, die viele Anbieter unterschätzen. Das kostenlose E‑Book fasst die zentralen Pflichten der EU‑KI‑Verordnung kompakt zusammen, erklärt Übergangsfristen und enthält eine leicht umsetzbare Schritt‑für‑Schritt‑Checkliste für Entwickler, Plattformbetreiber und Compliance‑Teams, die Bußgelder vermeiden wollen. KI‑Verordnung‑Guide jetzt herunterladen