EU zwingt X zur Beweissicherung bei KI-Chatbot Grok

Die EU-Kommission hat eine Beweissicherungsanordnung gegen die Plattform X erlassen. Sie soll alle internen Daten zum KI-Chatbot Grok bis Ende 2026 aufbewahren. Hintergrund sind schwere Vorwürfe, das Tool generiere illegale Inhalte wie antisemitisches Material und nicht einvernehmliche Pornografie.

Präventiver Schritt im Kampf für digitale Sicherheit

Mit der Anordnung setzt Brüssel ein deutliches Zeichen bei der Durchsetzung des Digital Services Act (DSA). Die Plattform muss alle Dokumente zu Entwicklung, Algorithmen und Content-Moderation von Grok sicherstellen. Damit friert die Kommission den digitalen Beweispfad ein – für den Fall späterer Untersuchungen.

Passend zum Thema EU-Standards für KI: Seit August 2024 gelten neue Pflichten für Entwickler und Anbieter von KI‑Systemen. Unser kostenloser Umsetzungsleitfaden erklärt in klaren, praxisnahen Schritten Kennzeichnungs‑ und Dokumentationspflichten, Risikoklassifizierung und notwendige Nachweise für KI‑Modelle. Mit Checklisten und Handlungsschritten, die Ihnen helfen, schnell auf behördliche Anfragen vorbereitet zu sein. Jetzt kostenlosen KI-Umsetzungsleitfaden herunterladen

„Die Maßnahme soll die Integrität möglicher künftiger Ermittlungen wahren“, sagte Kommissionssprecher Thomas Regnier am Donnerstag. Die Order sei ein Signal an X, interne Unterlagen nicht zu vernichten. Die Behörden hätten ernste Zweifel an der Einhaltung des EU-Rechts. Die Anordnung baut auf eine ähnliche Maßnahme aus dem Vorjahr auf, die sich auf Xs Empfehlungsalgorithmen bezog. Noch ist kein formelles Untersuchungsverfahren eröffnet, doch die Warnung ist unmissverständlich.

„Spicy Mode“ und Deepfakes als Auslöser

Den unmittelbaren Anlass lieferten neue Funktionen von Grok, insbesondere ein von Nutzern so bezeichneter „Spicy Mode“. Berichten zufolge wurde das Tool in dieser Woche genutzt, um sexuell explizite Deepfakes zu erstellen. Darunter waren nicht einvernehmliche Bilder von Frauen und – besonders alarmierend – realistische Darstellungen Minderjähriger.

Die Kommission bewertet die Generierung solcher Inhalte als klaren Verstoß gegen europäische Werte und Gesetze. Die Tatsache, dass Nutzer Sicherheitsfilter offenbar leicht umgehen konnten, wirft Fragen zur Wirksamkeit interner Tests bei X auf. Die Kontroverse zieht weitere Kreise: Französische Behörden haben eigenen Angaben zufolge bereits Ermittlungen wegen der Verbreitung von Deepfake-Pornografie eingeleitet.

Eskalation unter dem Digital Services Act

Das Verhältnis zwischen Elon Musks Plattform und der EU ist seit Inkrafttreten des DSA angespannt. Das Gesetz verpflichtet Very Large Online Platforms (VLOPs) wie X, systemische Risiken einzudämmen. Die neue Anordnung folgt auf eine Geldstrafe von rund 120 Millionen Euro im Dezember 2025. Damals wurde X wegen Verstößen gegen Transparenzpflichten belangt.

Rechtsexperten deuten die Beweissicherung als strategischen Schritt. Brüssel baut sich so ein Beweisreservoir auf, falls ein formelles Vertragsverletzungsverfahren folgt. Bei Nichtbefolgung drohen weitere Sanktionen, darunter Zwangsgelder oder Bußen in Höhe eines Prozentsats des globalen Umsatzes.

Branchenweite Signalwirkung und technische Hürden

Der Fall zeigt den grundsätzlichen Konflikt zwischen rasanter KI-Entwicklung und regulatorischer Sicherheit. Das Silicon-Valley-Mantra „move fast and break things“ stößt hier auf die EU-Philosophie der „Safety by Design“.

Für X bedeutet die Anordnung erheblichen operativen Aufwand. Das Unternehmen muss spezifische Datensätze zu Grok isolieren und zwei Jahre lang unverändert vorhalten. Vor allem aber rückt die Wirksamkeit von KI-„Guardrails“ in den Fokus – jener technischen Sperren, die schädliche Outputs verhindern sollen. Dass sie bei Grok so leicht zu umgehen waren, wird andere KI-Entwickler veranlassen, ihre eigenen Modelle streng zu testen.

Droht ein Showdown?

Die unmittelbare Beweislast liegt nun bei X. Die Kommission prüft derzeit die Antworten des Unternehmens auf frühere Informationsanfragen. Das Ergebnis könnte entscheiden, ob aus der Beweissicherung ein vollwertiges Vertragsverletzungsverfahren wird.

Für die gesamte KI-Branche setzt der Schritt einen Präzedenzfall. Brüssel scheut nicht davor zurück, in interne Betriebsabläufe einzugreifen, um Beweise für mögliche Fahrlässigkeit zu sichern. Sollten sich die Schwachstellen in Grok nicht beheben lassen, könnte X mit Sanktionen rechnen, die die Dezember-Strafe bei weitem übertreffen. Die digitalen Beweise sind nun eingefroren – und Brüssel beobachtet genau.

PS: Drohende Sanktionen und umfangreiche Dokumentationspflichten machen schnelles Handeln nötig. Holen Sie sich das kostenlose E‑Book zur EU‑KI‑Verordnung: kompakter Umsetzungsleitfaden mit Übergangsfristen, konkreten Pflichten für Entwickler und praktischen Mustervorlagen zur Risikoklassifizierung. Ideal, um Compliance‑Risiken zu reduzieren und Anfragen von Aufsichtsbehörden souverän zu beantworten. KI-Leitfaden jetzt gratis anfordern