EU-Kommission will Deepfake-Pornografie verbieten

Die EU-Kommission plant einen scharfen Schlag gegen digitale Gewalt: Sie erwägt ein explizites Verbot von nicht einvernehmlichen, pornografischen KI-Fälschungen. Hintergrund ist ein aktueller Skandal um missbräuchlich genutzte KI-Tools auf Social-Media-Plattformen.

Digitale Gewalt als „inakzeptables Risiko“

In einer Plenarsitzung des Europäischen Parlaments bestätigte Kommissions-Vizepräsidentin Henna Virkkunen, dass die Behörde prüft, solche KI-generierten Bilder als „inakzeptables Risiko“ einzustufen. Diese Einstufung würde sie auf die Liste verbotener KI-Praktiken im KI-Gesetz der EU setzen. Entwicklung und Verbreitung wären dann in der gesamten Union illegal. Es wäre eine deutliche Verschärfung im Kampf gegen den Missbrauch generativer KI.

Der Vorstoß ist eine direkte Reaktion auf einen Skandal um den KI-Chatbot Grok auf der Plattform X. Anfang Januar 2026 wurde bekannt, dass das Tool zur Erstellung tausender nicht einvernehmlicher, pornografischer Bilder genutzt wurde – ein Vorgang, der oft als „Nudification“ bezeichnet wird. Französische Behörden leiteten eine Untersuchung ein. EU-Abgeordnete verurteilen die Praxis als „digitale Gewalt“.

Passend zum Thema KI-Regulierung: Die EU-KI-Verordnung stellt seit 2024 neue Pflichten für Entwickler, Anbieter und Unternehmen auf – viele fragen sich, wie Risikoklassen, Kennzeichnungspflichten und Dokumentationsanforderungen praktisch umgesetzt werden. Unser kostenloses E‑Book fasst die Anforderungen kompakt zusammen, zeigt Übergangsfristen und liefert eine Checkliste zur sofortigen Umsetzung. Ideal, wenn Sie Compliance-Risiken minimieren und Bußgelder vermeiden wollen. Kostenloses KI-Verordnung-Leitfaden herunterladen

KI-Gesetz als schärfstes Schwert

Das 2024 verabschiedete KI-Gesetz ist der weltweit erste umfassende Rechtsrahmen für künstliche Intelligenz. Es verbietet bereits einige als gefährlich eingestufte Praktiken, wie Social-Scoring-Systeme. Nun soll die Liste um KI-Systeme erweitert werden, die nicht einvernehmliche intime Bilder erzeugen.

Bislang sah das Gesetz für Deepfakes vor allem Transparenzpflichten vor, die ab August 2026 gelten. Dann müsste KI-generierter Inhalt gekennzeichnet werden. Für illegale Inhalte wie Deepfake-Pornografie halten Politik und Digitalrechtler eine reine Kennzeichnung jedoch für unzureichend. Der Tenor: Solches Material darf gar nicht erst entstehen.

Doppelstrategie aus Verbot und Plattform-Haftung

Das geplante Verbot im KI-Gesetz würde mit dem Digital Services Act (DSA) verzahnt, der Plattformen für illegale Inhalte haftbar macht. Während der DSA auf die Entfernung schädlicher Inhalte abzielt, würde das KI-Verbot das Problem an der Wurzel packen: bei den Werkzeugen selbst. Diese Doppelstrategie soll Angebot und Verbreitung bösartiger KI-Inhalte gleichermaßen bekämpfen.

Der klare Kurs der Kommission erhöht den Druck auf alle Entwickler generativer KI-Modelle und die Plattformen, die sie integrieren. Bei Verstößen drohen rechtliche und reputative Risiken. Regulierungsbehörden weltweit, etwa im Vereinigten Königreich, untersuchen bereits die Compliance von Plattformen wie X.

Globale Signalwirkung erwartet

Die Debatte markiert einen Wendepunkt in der KI-Governance. Die rasanten Fortschritte der Technologie haben viele Gesetze überholt und Grauzonen geschaffen, die Kriminelle ausnutzen. Der Grok-Skandal wirkte als Katalysator und zeigte das erhebliche Schadenspotenzial.

Der Gesetzgebungsprozess zur Änderung der Verbotsliste erfordert noch die Zustimmung von Parlament und Rat. Parallel treibt die Kommission ihre Durchsetzungsmaßnahmen unter dem DSA voran. Bis die Transparenzregeln des KI-Gesetzes voll gelten, soll bis Mitte 2026 ein freiwilliger Verhaltenskodex zur Kennzeichnung KI-generierter Inhalte Orientierung bieten. Die EU festigt ihr digitales Regelwerk – und setzt damit wahrscheinlich einen globalen Maßstab für die KI-Regulierung.

PS: Sie entwickeln oder betreiben KI-Tools und wollen rechtssicher handeln? Dieses Gratis-E-Book erklärt, wie Sie Ihr System richtig klassifizieren, Kennzeichnungspflichten erfüllen und erforderliche Dokumentation vorbereiten. Mit praktischen Umsetzungstipps für Entwickler und Compliance-Verantwortliche sowie konkreten To‑Dos für die nächsten Schritte – ideal, um Fristen und Bußgeldrisiken im Blick zu behalten. Jetzt kostenloses KI-Umsetzungs-E-Book anfordern