EU-Parlamentarier fordern Verbot von Deepfake-Nacktbild-KI

Ein breites Bündnis im EU-Parlament fordert ein europaweites Verbot von KI-Systemen zur Erstellung nicht-einvernehmlicher Nacktbilder. Auslöser ist ein Skandal um Elon Musks KI-Modell Grok.

Brüssel. Die Forderung kommt als direkte Reaktion auf einen globalen Skandal: Das KI-Modell Grok des Unternehmens xAI von Elon Musk soll genutzt worden sein, um auf der Plattform X manipulierte intime Bilder von Frauen und Kindern zu erstellen und zu verbreiten. Mehr als 50 Abgeordnete des Europäischen Parlaments aus verschiedenen Fraktionen fordern die EU-Kommission nun auf zu klären, ob solche „Nudification“-Tools bereits unter bestehendem Recht illegal sind. Falls nicht, sollen sie umgehend in die Liste verbotener KI-Praktiken der historischen KI-Verordnung (AI Act) aufgenommen werden.

Grok-Skandal als politischer Katalysator

Der Skandal brach los, als Nutzer entdeckten, dass sich mit Groks Bildgenerator-Funktion Personen auf Fotos digital „entkleiden“ ließen. Die so entstandenen täuschend echten Deepfakes verbreiteten sich rasend schnell auf X, der mit Grok verknüpften Plattform. Die weltweite Empörung von Öffentlichkeit, Kinderschutzorganisationen und Regierungen war enorm.

Die EU-Kommission hat bereits erste Schritte eingeleitet. Auf Basis des Digital Services Act (DSA) hat sie X angewiesen, alle internen Dokumente und Daten zu Grok bis Ende 2026 aufzubewahren. Diese Anordnung soll Ermittlungen zu den Inhaltekontrollen der Plattform ermöglichen. Zwar gab xAI an, die entsprechende Funktion deaktiviert zu haben. Doch Berichte zeigten später, dass Nutzer weiterhin sexualisierte Inhalte erstellen konnten – ein Zeichen für unzureichende Schutzmaßnahmen.

Passend zum Thema KI-Verordnung: Seit August 2024 gelten neue EU-Regeln für KI-Systeme – viele Entwickler und Anbieter sind unsicher, welche Pflichten wirklich gelten. Unser kostenloser Umsetzungsleitfaden erklärt kompakt Kennzeichnungspflichten, Risikoklassen, Dokumentationsanforderungen und wie Sie Ihr System rechtssicher einordnen. Er enthält praktische To‑Dos, Fristen und Beispiele für die Umsetzung in Unternehmen. Ideal für Hersteller, Plattformbetreiber und Compliance-Verantwortliche. KI-Verordnung: Gratis-Umsetzungsleitfaden herunterladen

Lücke im Gesetz: KI-Verordnung soll nachgeschärft werden

Die Gruppe von 57 Parlamentariern argumentiert, dass der DSA allein, der große Online-Plattformen reguliert, nicht ausreicht. In einem Brief an die Kommission fordern sie ein Verbot der KI-Systeme selbst auf dem EU-Markt. Diese würden geschlechtsspezifische Online-Gewalt und die Erstellung von Missbrauchsdarstellungen Minderjähriger erleichtern.

Hier zeigt sich eine mögliche Lücke im ansonsten umfassenden AI Act. Die Verordnung schreibt zwar vor, dass Deepfakes als künstlich gekennzeichnet werden müssen. Ein explizites Verbot, solche Tools überhaupt zu entwickeln, enthält sie jedoch möglicherweise nicht. Der irische Liberale Michael McNamara wurde als Verhandlungsführer benannt, um eine Nachschärfung zu prüfen. Sein Ziel: Die nicht-einvernehmliche Generierung intimer Bilder soll als „verbotene Praxis“ eingestuft werden.

Tech-Branche im Fadenkreuz der Regulierer

Der Skandal hat xAI, X und die gesamte Generative-KI-Branche ins Visier der Aufsichtsbehörden gerückt. Neben der EU haben auch britische Regulierer eine offizielle Untersuchung zu Grok eingeleitet. Länder wie Malaysia und Indonesien blockierten den Zugang zu dem Tool vorübergehend. Die internationale Reaktion macht deutlich: Die Zeit der freiwilligen Selbstverpflichtungen der Industrie scheint vorbei.

Kritiker werfen xAI vor, mit der Vermarktung Groks als „frechere“, weniger gefilterte Alternative zu Wettbewerbern ein Umfeld für Missbrauch geschaffen zu haben. Die Reaktion des Unternehmens – zunächst die Einschränkung der Funktion auf zahlende Nutzer – wirkte auf viele wie halbherziger Aktionismus. Die Debatte um die Haftung der Entwickler und die grundlegende Verantwortung von Tech-Firmen, illegale Nutzung zu verhindern, ist neu entfacht.

Wettlauf gegen die Zeit: EU will KI-Lücke schließen

Der Fall Grok wird zum Prüfstein für das digitale Regelwerk der EU. Er zeigt den Zielkonflikt zwischen dem DSA, der auf Inhaltekontrolle durch Plattformen setzt, und dem AI Act, der die zugrundeliegende Technologie regulieren will. Die Parlamentarier sind überzeugt: Das Problem muss an der Wurzel gepackt werden, indem die KI-Systeme selbst verboten werden.

Die politische Dynamik ist stark. Eine Debatte im Plenum des EU-Parlaments zu KI-Deepfakes und sexueller Ausbeutung ist bereits angesetzt. Der breite fraktionsübergreifende Konsens macht Änderungen am AI Act sehr wahrscheinlich. Unter Führung von Michael McNamara sollen die Triloge-Verhandlungen zur Anpassung von DSA und AI Act bereits im Februar 2026 beginnen, mit dem Ziel einer Abstimmung noch im selben Jahr.

Für die EU-Kommission beginnt nun ein Wettlauf gegen die Zeit. Sie muss auf den Brief der Abgeordneten reagieren und rechtliche Klarheit schaffen. Da die Bestimmungen für Hochrisiko-KI im AI Act im August 2026 in Kraft treten sollen, drängt die Zeit, diese potenzielle Lücke zu schließen. Der Grok-Skandal könnte sich als Wendepunkt erweisen, an dem die theoretischen Risiken generativer KI zu einer akuten Gefahr wurden – und Europa zum entschlossenen Handeln zwangen.

PS: Die Fristen zur Umsetzung sind knapp — wissen Sie, welche Übergangsfristen für Hochrisiko-KI und Kennzeichnung demnächst auslaufen? Holen Sie sich den kostenlosen Leitfaden mit praktischer Checkliste: Er zeigt Schritt für Schritt, wie Sie Kennzeichnungspflichten erfüllen, Dokumentation anlegen und Haftungsrisiken minimieren. Zusätzlich finden Sie Vorlagen für Verantwortlichkeitsnachweise und Handlungsempfehlungen für Entwickler und Rechtsabteilungen. Perfekt für Entscheidungsträger, die jetzt rechtssicher handeln müssen. Jetzt KI-Guide mit Checkliste anfordern