Grok: Trotz Deepfake-Skandal auf Platz 1 der App-Charts

Elon Musks KI-App Grok feiert in Großbritannien und Irland Rekord-Downloads – genau in dem Moment, in dem Regierungen über ein Verbot nachdenken. Der Grund für den Aufstieg ist ein paradoxer Werbeeffekt der laufenden Kontroverse um nicht-einvernehmliche KI-Pornografie.

Die App des Unternehmens xAI erreichte am Freitag, den 9. Januar, Platz 1 in den britischen App-Charts und war auch in Irland ein Top-Download. Dieser Popularitätsschub erfolgte nur Tage, nachdem Medien über die Nutzung der Bildgenerierungs-Tools zur Erstellung sexualisierter Deepfakes von Frauen und Minderjährigen berichteten. Während die Aufsichtsbehörden in London und Dublin nach schärferen Sicherheitsmaßnahmen rufen, strömen die Nutzer zur App.

Der „Streisand-Effekt“ als Turbo für die Downloads

Marktbeobachter sehen in dem Phänomen einen klassischen „Streisand-Effekt“: Der Versuch, ein Produkt zu verurteilen oder zu zensieren, steigert unbeabsichtigt seine Bekanntheit. „Die Kontroverse war eine massive, kostenlose Marketingkampagne“, so ein Branchenkenner. „Nutzer laden die App herunter, um zu sehen, worum der ganze Aufruhr geht – bevor ein mögliches Verbot in Kraft tritt.“

Seit August 2024 gelten neue Regeln für KI-Systeme in der EU – viele Anbieter unterschätzen jedoch Kennzeichnungspflichten, Risikoklassifikationen und umfangreiche Dokumentationsanforderungen. Unser kostenloser Umsetzungsleitfaden zur EU‑KI‑Verordnung erklärt verständlich, welche Pflichten jetzt für Entwickler und Plattformbetreiber gelten, wie Sie Ihr System richtig klassifizieren und welche Fristen dringend zu beachten sind. Praktische Checklisten und konkrete Schritte helfen bei der sofortigen Umsetzung. Jetzt kostenlosen KI‑Verordnungs‑Leitfaden herunterladen

Elon Musk kommentierte den Erfolg auf seiner Plattform X und stellte die Zahlen als Sieg für seine „freie Meinungsäußerung“ dar.

Der Kern des Skandals: „Nudify“-Funktion

Auslöser der regulatorischen Gegenwehr ist eine spezifische Funktion in Groks Bildgenerator. Untersuchungen zeigten, dass die KI damit aufgefordert werden konnte, echte Personen auf Fotos „auszuziehen“. Besonders alarmierend: Die Tools hatten nicht ausreichend Barrieren, um die Generierung sexualisierter Bilder von Minderjährigen zu verhindern.

Im Gegensatz zu Konkurrenten wie OpenAI’s ChatGPT oder Google’s Gemini, die strikte Sicherheitsfilter haben, umkreiste Groks „spicy mode“ diese Prüfungen. Als Reaktion schob xAI spät am Donnerstag ein Update nach. Seither ist die Bildgenerierung nur noch für bezahlende Abonnenten verfügbar. Kritiker sehen darin keinen ausreichenden Schutz, sondern ein „Bezahlen-um-zu-missbrauchen“-Modell.

„Alle Optionen prüfen“: Scharfe Reaktion der Regulierer

Die Reaktion der Behörden fiel deutlich aus.

In Großbritannien nannte Premierminister Keir Starmer die Deepfakes „abscheulich“. Sein Büro bestätigte, „alle Optionen“ zu prüfen, und schloss ein komplettes Verbot der Plattform nach dem Online Safety Act nicht aus. Die Medienaufsicht Ofcom hat eine Dringlichkeitsprüfung eingeleitet. Das Gesetz erlaubt Bußgelder von bis zu 10 Prozent des globalen Umsatzes und im Extremfall Zugangssperren.

In Irland bestätigte die Aufsichtsbehörde Coimisiún na Meán, mit der Europäischen Kommission und der Polizei zu kooperieren. Die EU hat X angewiesen, alle internen Dokumente zu Grok bis Ende 2026 aufzubewahren. Dies deutet auf eine mögliche Großuntersuchung nach dem Digital Services Act (DSA) hin.

Globale Auswirkungen und ein gespaltenes KI-Lager

Die Kontroverse hat bereits konkrete Folgen: Indonesien sperrte den Zugang zu Grok am 10. Januar vorübergehend, da es gegen Gesetze zur digitalen Anständigkeit verstoße.

Experten sehen in dem Vorfall einen grundlegenden Konflikt in der KI-Branche. „Hier prallen zwei Ideologien aufeinander“, erklärt ein Digitalpolitik-Forscher. „Auf der einen Seite der ‚Move-fast-and-break-things‘-Ansatz, auf der anderen der von EU- und UK-Recht geforderte ‚Safety-by-Design‘-Rahmen.“

Die Einschränkung der Bildgenerierung auf zahlende Nutzer gilt vielen als Notlösung. Die Verknüpfung mit einer Kreditkarte soll Missbrauch durch fehlende Anonymität erschweren. Doch die grundlegende ethische Frage bleibt ungelöst.

Ausblick: Eine wegweisende rechtliche Auseinandersetzung?

• Kurzfristig werden Ofcom und die irische Behörde technische Audits der Sicherheitsfilter fordern. Kann xAI nicht nachweisen, dass die „Nudify“-Funktion dauerhaft deaktiviert – und nicht nur hinter einer Paywall versteckt – ist, könnten binnen Wochen Geldstrafen oder Zugangssperren folgen.
• Mittelfristig könnte die „Grok-Lücke“ die Durchsetzung des Online Safety Act und des EU KI-Gesetzes beschleunigen und einen Präzedenzfall für die Haftung von Generativer-KI-Firmen schaffen.
• Langfristig zeigt die Platzierung, dass die Nachfrage nach wenig gefilterten KI-Tools robust ist. Dies könnte einen „Graumarkt“ für KI-Apps befeuern – und die Regulierer in ein endloses Wettrennen zwingen.

Grok thront derzeit als Symbol der Spannung zwischen Nutzerneugier, absolutistischer Redefreiung und dem dringenden Schutz der digitalen Sicherheit oben in den Charts. Ob die App dort bleibt, entscheidet sich am Verhandlungstisch in London und Brüssel.

PS: Die EU‑KI‑Verordnung setzt nicht nur Pflichten für Kennzeichnung und Risikobewertung – sie verlangt auch nachvollziehbare Dokumentation und technische Nachweise, die bei Prüfungen entscheiden können. Besonders Plattformbetreiber und Anbieter von Bildgeneratoren sollten Übergangsfristen, Nachweispflichten und mögliche Sanktionen kennen. Der kostenlose Leitfaden bietet eine kompakte Umsetzungshilfe mit Vorlagen, Praxisbeispielen und klaren To‑dos, damit Sie regulatorische Risiken minimieren. Gratis-Leitfaden zur EU‑KI‑Verordnung herunterladen