Grok-Skandal löst weltweite Deepfake-Kampagne aus

KI-generierte Pornografie durch den Chatbot Grok auf X zwingt Regierungen weltweit zum Handeln. Die Ära der Selbstregulierung für KI-Plattformen scheint vorbei.

Indonesien und Malaysia sperrten den Chatbot bereits, Brasilien prüft ein Verbot. Die EU erwägt ein Eilverfahren, während Großbritannien ein neues Gesetz gegen sexualisierte Deepfakes auf den Weg bringt. Der Skandal hat eine neue Dringlichkeit in die Debatte um KI-Regulierung gebracht.

Asien geht mit radikalen Sperren voran

Die Reaktionen in Südostasien fielen schnell und hart aus. Indonesien sperrte Grok mit Verweis auf seine strengen Anti-Pornografie-Gesetze. „Wir schützen die Menschenwürde“, erklärte die Digitalministerin. Malaysia zog umgehend nach und kündigte sogar eine Klage gegen die Plattform X an. Diese Blockaden gelten als bisher schärfste Maßnahmen gegen eine KI-Anwendung überhaupt und signalisieren eine Null-Toleranz-Haltung.

Passend zum Thema KI-Regulierung: Die EU-KI-Verordnung bringt verbindliche Kennzeichnungspflichten, Risikoklassen und umfangreiche Dokumentationspflichten für Anbieter und Entwickler. Wer jetzt handelt, vermeidet Bußgelder und Image-Schäden. Ein kostenloser Praxisleitfaden erklärt klar, welche Pflichten gelten, wie sich Risiken einstufen lassen und welche Fristen zu beachten sind – ideal für Unternehmen und Plattformbetreiber. Jetzt KI-Umsetzungsleitfaden herunterladen

Europa setzt auf Gesetze statt Sperren

In Europa verfolgen die Behörden einen anderen Ansatz. Die EU-Kommission prüft rechtliche Schritte und hat X angewiesen, alle Grok-relevanten Dokumente aufzubewahren. „Den Schutz unserer Kinder überlassen wir nicht dem Silicon Valley“, betonte Kommissionspräsidentin Ursula von der Leyen. Das EU-Parlament will sich kommende Woche mit dem Fall befassen.

Parallel dazu treibt Großbritannien eine Gesetzesänderung voran. Ein neues Gesetz soll die Erstellung sexualisierter Deepfakes unter Strafe stellen und Unternehmen verbieten, entsprechende Werkzeuge anzubieten. Die Medienaufsicht Ofcom hat bereits eine Untersuchung gegen X eingeleitet.

Die rechtliche Lücke wird zum Problem

Doch woran scheitert die Verfolgung? Deepfakes bewegen sich oft in einer rechtlichen Grauzone. In Deutschland und der EU können zwar Datenschutzrecht, das Recht am eigenen Bild oder Verleumdungstatbestände greifen. Spezifische Gesetze gegen die reine Erstellung von Deepfakes gibt es aber kaum.

Die überwältigende Mehrheit der schädlichen Inhalte betrifft pornografische Darstellungen – und zielt fast ausschließlich auf Frauen ab. Experten fordern daher seit Jahren klare Regelungen. Der EU- AI Act sieht eine Kennzeichnungspflicht vor, der Digital Services Act (DSA) verpflichtet Plattformen zu härterem Durchgreifen. Der aktuelle Skandal erhöht den Druck, diese Gesetze endlich mit Leben zu füllen.

Ein globales Regulierungs-Mosaik entsteht

Die Reaktionen auf den Grok-Skandal zeigen ein klares Muster: Ein globales regulatorisches Mosaik gegen KI-Missbrauch entsteht. Während einige Staaten auf schnelle Sperren setzen, bauen andere wie die EU und Großbritannien umfassende rechtliche Rahmenwerke.

Für KI-Unternehmen bedeutet das eine klare Botschaft. Robuste ethische Richtlinien und technische Schutzvorkehrungen werden vom Nice-to-have zum Muss. Die internationale Entschlossenheit, gegen die Schattenseiten der KI vorzugehen, hat eine neue Stufe erreicht. Die Konsequenzen für Plattformen, die diese Signale ignorieren, dürften erheblich sein.

PS: Wenn Sie wissen wollen, welche konkreten Pflichten Anbieter, Entwickler und Plattformbetreiber jetzt umsetzen müssen, bietet dieses Gratis‑E‑Book eine kompakte Schritt‑für‑Schritt‑Anleitung zur EU‑KI‑Verordnung. Von Kennzeichnungspflichten über Risikoklassen bis zu Dokumentationspflichten – praxisnah erklärt und sofort anwendbar. Gratis E-Book zur KI-Verordnung sichern