Bundesregierung verschärft Kampf gegen KI-Deepfakes

Angesichts eines Skandals um sexualisierte KI-Bilder auf Plattform X plant die Bundesregierung ein schärferes Vorgehen gegen digitale Gewalt. Ein neues Gesetz soll das Strafrecht anpassen und Opfer besser schützen.

„Bikini jetzt“-Skandal als Weckruf

Der jüngste Fall um den KI-Chatbot „Grok“ auf X hat die Gefahr von Deepfakes drastisch gemacht. Nutzer konnten damit massenhaft manipulierte, anzügliche Bilder realer Personen – vor allem Frauen – erstellen. Der sogenannte „Bikini jetzt“-Trend löste internationale Empörung aus.

Bundesjustizministerin Stefanie Hubig zeigte sich bestürzt und sprach von einer systematischen Verletzung von Persönlichkeitsrechten. Kulturstaatsminister Wolfram Weimer ging weiter und bezeichnete den Vorgang als „Industrialisierung der sexuellen Belästigung“. Der Skandal offenbarte, wie einfach moderne KI für böswillige Zwecke missbraucht werden kann – und wie unzureichend der Schutz der Plattformen bislang ist.

Passend zum Thema EU-KI-Regulierung: Seit August 2024 gelten neue Regeln für KI-Systeme – viele Unternehmen und Entwickler sind unsicher, was das konkret für Deepfakes und Kennzeichnungspflichten bedeutet. Ein kostenloses E‑Book erklärt kompakt Kennzeichnungspflichten, Risikoklassen, Dokumentationspflichten und praktische Schritte für die sofortige Umsetzung. Es zeigt, welche Systeme als „hochrisiko“ gelten und wie Sie Compliance schnell intern organisieren. Ideal für Entwickler, Plattformbetreiber und Datenschutzverantwortliche. Jetzt kostenlosen KI-Umsetzungsleitfaden herunterladen

Neues Gesetz gegen digitale Gewalt

Als direkte Reaktion arbeitet das Bundesjustizministerium an einem „Gesetz gegen digitale Gewalt“. Ziel ist es, die rechtlichen Hürden für Opfer zu senken und die Strafverfolgung zu erleichtern.

Justizministerin Hubig kündigte an, das Strafrecht gezielt nachschärfen zu wollen. Bestehende Tatbestände wie Beleidigung würden dem Unrecht hyperrealistischer KI-Fälschungen oft nicht gerecht. Geplant sind daher neue Straftatbestände, die das Erstellen und Verbreiten manipulierter Bilder – besonders sexualisierter Inhalte – gezielt adressieren.

Damit greift die Regierung eine langjährige Forderung auf. Bereits seit 2024 liegt ein Gesetzentwurf des Bundesrates vor, der mit einem neuen Paragrafen 201b im StGB den Schutz vor Deepfakes verbessern soll. Dieser Entwurf ist jedoch umstritten. Kritiker wie die Bundesrechtsanwaltskammer warnen vor unbestimmten Formulierungen und einer möglichen Überkriminalisierung.

EU-Rahmen: DSA und AI Act als Stütze

Die nationalen Pläne sind in die europäische Regulierung eingebettet. Zwei Verordnungen sind zentral: der Digital Services Act (DSA) und der AI Act.

Der bereits geltende DSA verpflichtet große Plattformen wie X, systemische Risiken zu bewerten und gegen illegale Inhalte vorzugehen. Der Missbrauch von KI für Deepfakes fällt klar in diese Pflicht.

Der EU AI Act, dessen Regeln ab August 2026 gelten, soll für mehr Transparenz sorgen. Er sieht eine klare Kennzeichnungspflicht für KI-generierte Inhalte vor. Nutzer sollen sofort erkennen können, ob ein Bild, Video oder eine Tonaufnahme authentisch ist.

Mehr als nur Gesetze: Prävention und Aufklärung

Neben schärferen Gesetzen setzt die Bundesregierung auf einen mehrstufigen Ansatz. Ein Baustein ist die Stärkung der gesellschaftlichen Widerstandsfähigkeit.

Gefördert werden Projekte wie DeFaktS, das KI als Werkzeug zur Erkennung von Falschmeldungen einsetzt. In ressortübergreifenden Arbeitsgruppen analysieren Behörden die Bedrohungslage, um schnell auf Desinformationskampagnen reagieren zu können.

Experten sind sich einig: Technologie und Gesetze allein reichen nicht. Langfristig ist die Förderung von Medienkompetenz entscheidend. Bürger müssen lernen, Quellen kritisch zu hinterfragen und Merkmale von Deepfakes – wie unnatürliche Mimik oder fehlerhafte Schatten – zu erkennen.

Die kommenden Monate werden entscheidend sein. Das Bundesjustizministerium will den konkreten Gesetzentwurf bald vorlegen, was eine intensive parlamentarische Debatte auslösen dürfte. Parallel wächst der öffentliche Druck auf KI-Entwickler und Plattformen, Missbrauch proaktiv zu verhindern.

PS: Für alle, die Missbrauch durch Deepfakes wirksam verhindern wollen – dieses Gratis‑E‑Book zur EU‑KI‑Verordnung fasst in verständlichen Schritten zusammen, welche Kennzeichnungspflichten, Risikoklassen und Dokumentationsanforderungen jetzt relevant sind und welche Fristen zu beachten sind. Mit Praxisbeispielen, Checklisten und Priorisierungs‑Tipps hilft der Leitfaden, operative Maßnahmen schnell umzusetzen und Verantwortlichkeiten intern zu klären. Perfekt für Ministerien, Plattformbetreiber und Datenschutzbeauftragte. Kostenloses E-Book anfordern