EU-KI-Behörde greift gegen X und Meta durch

Brüssel, 16. Januar 2026 – Die neue EU-KI-Behörde startet mit einem Paukenschlag: Sie leitet erste Großverfahren gegen die Tech-Riesen X und Meta ein. Im Fokus steht die Frage, ob deren Künstliche Intelligenz systemische Risiken für die Gesellschaft birgt.

Damit vollzieht Brüssel einen entscheidenden Wandel. Aus freiwilligen Sicherheitsversprechen der Plattformen werden nun rechtlich verbindliche Pflichten. Die Untersuchungen prüfen die Einhaltung der strengsten Vorgaben des EU-KI-Gesetzes für Hochrisiko-KI-Modelle. Die Behörde kann nun Transparenz über Algorithmen, Trainingsdaten und Sicherheitsvorkehrungen erzwingen – notfalls mit milliardenschweren Strafen.

Die Ermittlungen sind der erste große Praxistest für das umfassende EU-KI-Regelwerk, das seit August 2024 schrittweise in Kraft tritt. Die zuständige KI-Behörde konzentriert sich auf die Bestimmungen zu systemischen Risiken. Diese Kategorie ist den leistungsstärksten KI-Modellen vorbehalten, die das Potenzial für gesellschaftliche Großschäden haben.

Entscheidend ist eine technische Schwelle: Als hochriskant gelten Modelle, deren Trainingsrechenaufwand 10^25 Fließkommaoperationen (FLOPs) übersteigt. Sowohl Metas Llama 3.1 als auch X’s Grok-3 sollen diese Marke überschreiten und unterliegen damit der höchsten Aufsichtsstufe.

Passend zum Thema EU-KI-Regeln: Seit August 2024 gelten neue Pflichten für Entwickler und Anbieter leistungsfähiger KI-Systeme. Unser kostenloser Umsetzungsleitfaden erklärt klar, welche Kennzeichnungspflichten, Risikoklassen und Dokumentationspflichten jetzt wichtig sind – inklusive Checklisten für Red Teaming, Transparenzanforderungen und Meldefristen. Sofort anwendbare Vorlagen helfen, Fristen und Pflichten umzusetzen. Ideal für Unternehmen, die Bußgelder vermeiden und ihre KI-Systeme rechtskonform betreiben wollen. Jetzt kostenlosen KI-Umsetzungsleitfaden herunterladen

Das Gesetz verpflichtet Entwickler solcher Modelle zu rigorosen Maßnahmen. Dazu gehören verpflichtende Sicherheitstests durch ethische Hacker („Red Teaming“), die Bewertung und Eindämmung systemischer Risiken sowie die Meldung schwerwiegender Vorfälle an die Behörde innerhalb von 15 Tagen. Das KI-Gesetz wirkt hier Hand in Hand mit dem Digital Services Act (DSA), der bereits Inhaltsmoderation und Risikomanagement für Großplattformen regelt.

Fokus auf Desinformation und Wahlbeeinflussung

Die KI-Behörde hat gegen X formelle Anordnungen zur Datensicherung erlassen und gegen Meta umfassende „Ökosystem-Untersuchungen“ eingeleitet. Konkrete Details sind zwar vertraulich, doch der Fokus liegt klar auf den Gefahren durch KI: Kann sie schädliche Inhalte verstärken, Desinformation verbreiten und den demokratischen Diskurs – besonders vor Wahlen – negativ beeinflussen?

Aktuelle Vorfälle haben die Dringlichkeit der Aufsicht unterstrichen. Besondere Besorgnis erregte die Fähigkeit von X’s Grok-Modell, nicht einvernehmliche sexualisierte Deepfakes zu erstellen. Die Ermittler werden prüfen, ob die Sicherheitsvorkehrungen der Plattformen gegen solchen Missbrauch ausreichen.

Die Verfahren sind Teil einer breiteren Initiative der EU-Kommission, dominante Digitalkonzerne zur Verantwortung zu ziehen. Gegen Meta und X laufen bereits andere DSA-Verfahren, etwa zu Werbetransparenz und illegalen Inhalten.

Milliardenstrafen und verschärfte Aufsicht

Für X und Meta geht es um viel. Verstöße gegen das KI-Gesetz können zu empfindlichen Strafen führen: bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes – je nachdem, welcher Betrag höher ist. Diese Durchsetzungsmacht steht in einer Reihe mit anderen strengen EU-Regeln wie der DSGVO.

Das erklärte Ziel der Kommission ist nicht primär die Eintreibung von Strafgeldern, sondern die Durchsetzung europäischer Standards zum Schutz der Grundrechte. Die Behörden können die Untersuchungen priorisieren, Beweise sichern, vorläufige Maßnahmen anordnen und verbindliche Nachbesserungen verlangen.

Marktbeobachter sehen darin den Beginn einer neuen Ära. Jahrelang regulierten sich Tech-Konzerne bei der KI-Entwicklung weitgehend selbst. Jetzt steht ihnen eine schlagkräftige, zentrale Aufsichtsbehörde gegenüber, die rechtlich verbindliche Änderungen an ihren Systemen durchsetzen kann.

Weichenstellung für die globale KI-Regulierung

Der Ausgang dieser Pionier-Verfahren wird weltweit Maßstäbe setzen. Er wird die praktische Anwendung der Risikoklauseln definieren und zeigen, mit welcher Strenge andere Entwickler leistungsfähiger KI-Modelle künftig rechnen müssen.

Die KI-Behörde, die derzeit hunderte Spezialisten in den 27 Mitgliedstaaten rekrutiert, bereitet sich auf eine anhaltende Phase der Durchsetzung vor. Die Ergebnisse werden auch die transatlantischen Dialoge zur KI-Sicherheit beeinflussen, wo der umfassende, risikobasierte EU-Ansatz oft mit der sektorspezifischeren US-Politik kontrastiert.

Beide Unternehmen werden voraussichtlich kooperieren, obwohl Meta bereits Bedenken geäußert hat, die EU-Regeln könnten Innovationen behindern. Die kommenden Monate werden zeigen, wie tief die Ermittlungen gehen und ob die Tech-Giganten nachweisen können, dass ihre Systeme der EU-Vision einer vertrauenswürdigen, menschenzentrierten KI entsprechen.

PS: Drohen Ihrem Unternehmen Sanktionen wegen unvollständiger KI-Dokumentation? Unser kostenloses E-Book zur KI-Verordnung fasst Übergangsfristen, Pflichten zur Risikoanalyse und konkrete Schritte zur rechtskonformen Umsetzung zusammen. Nutzen Sie die praktische Checkliste, um Nachweispflichten, Trainingsdaten-Transparenz und Incident-Reporting sauber zu organisieren – bevor Fristen ablaufen. Jetzt KI-Leitfaden gratis anfordern