DeepSeek einigt sich mit Italien über KI-Warnhinweise

Italiens Kartellamt schließt Untersuchung gegen den chinesischen KI-Konzern DeepSeek ab. Das Unternehmen verpflichtet sich zu klaren Warnhinweisen vor sogenannten Halluzinationen seiner KI-Modelle. Die Einigung markiert einen Präzedenzfall für den Umgang mit generativer KI in Europa.

Die Behörde Autorità Garante della Concorrenza e del Mercato (AGCM) beendete das Verfahren, nachdem DeepSeek rechtlich bindende Maßnahmen vorgeschlagen hatte. Diese sollen italienische Nutzer besser über die Risiken falscher KI-Antworten informieren. Bei voller Einhaltung der Auflagen entgeht das Unternehmen einer Geldstrafe.

Bindende Verpflichtungen statt Strafe

Die AGCM hatte die Untersuchung im Juni 2025 eingeleitet. Im Fokus stand der Vorwurf, DeepSeek informiere Verbraucher nicht ausreichend über die Möglichkeit falscher oder erfundener Informationen durch seine KI-Modelle. Dieses Phänomen ist in der Branche als “Halluzination” bekannt.

Am 5. Januar akzeptierte die Behörde das Maßnahmenpaket der DeepSeek-Muttergesellschaften aus Hangzhou und Peking. Die neuen Regeln sollen Warnhinweise für italienische Nutzer “leichter, transparenter, verständlicher und unmittelbarer” machen. Konkrete technische Details wurden nicht veröffentlicht, doch DeepSeek muss sicherstellen, dass Nutzer KI-Antworten nicht als verifizierte Fakten behandeln.

Passend zum Thema EU-KI-Gesetz: Seit August 2024 gelten neue Regeln für KI-Anbieter – viele Unternehmen riskieren Bußgelder, wenn Kennzeichnung und Dokumentation fehlen. Unser kostenloses E-Book erklärt verständlich die Pflichten nach der EU-KI-Verordnung, wie Sie Ihr System richtig klassifizieren, erforderliche Dokumentation anlegen und Übergangsfristen einhalten. Enthalten sind Checklisten und konkrete Umsetzungsschritte, die Sie sofort anwenden können. Ideal für Compliance-Verantwortliche und Entwickler. Gratis KI-Verordnungs-Leitfaden herunterladen

Schutz vor falschen KI-Ratschlägen

Im Zentrum der Untersuchung stand der Verbraucherschutz, nicht der Datenschutz. Die Behörde fürchtete, dass normale Nutzer DeepSeek für kritische Informationen nutzen könnten – etwa in Rechts-, Medizin- oder Finanzfragen – ohne die inhärenten Grenzen des Systems zu verstehen.

Generative KI-Modelle wie DeepSeek funktionieren durch Vorhersage plausibler Textsequenzen basierend auf Trainingsdaten. Sie “wissen” Fakten nicht im menschlichen Sinne, was zu selbstbewusst vorgetragenen Falschaussagen führen kann. Die italienische Intervention unterstreicht eine wachsende Übereinkunft europäischer Verbraucherschützer: KI-Firmen tragen die Verantwortung, die Illusion der Unfehlbarkeit aktiv zu widerlegen.

Unterschied zu Datenschutz-Verfahren

Diese Einigung ist strikt von DeepSeeks separaten Datenschutz-Herausforderungen zu trennen. Während die AGCM für Verbraucherrechte zuständig ist, operiert die italienische Datenschutzbehörde (Garante) unabhängig und setzt die DSGVO durch.

Im Januar 2025 hatte die Datenschutzbehörde eine vorübergehende Sperre der Datenverarbeitung italienischer Nutzer angeordnet. Sie kritisierte mangelnde Transparenz und fehlende Rechtsgrundlage für die Datenerhebung. Diese Datenschutz-Prüfung betraf andere rechtliche Fragen – etwa wo Daten gespeichert und wie sie für das Training genutzt werden.

Der Abschluss des AGCM-Verfahrens klärt spezifisch den Aspekt der Verbrauchertäuschung. Er befreit das Unternehmen nicht automatisch von DSGVO-Verpflichtungen, beseitigt aber eine von zwei großen regulatorischen Hürden auf einem Schlüsselmärkt Europas.

Signalwirkung für die gesamte KI-Branche

Die Einigung dürfte weitreichende Folgen für den gesamten Sektor generativer KI haben. Rechtsexperten erwarten, dass andere Anbieter ihre Hinweise proaktiv an den nun in Italien etablierten Standard anpassen werden. So wollen sie ähnlichen Untersuchungen zuvorkommen.

Für DeepSeek bedeutet die Lösung des Kartellverfahrens mehr Stabilität auf dem italienischen Markt – vorausgesetzt, das Unternehmen hält sich an die neuen Transparenzvorgaben. Die Einigung signalisiert anderen internationalen KI-Entwicklern, dass europäische Regulierer von allgemeinen Warnungen zu spezifischen, durchsetzbaren Betriebsanforderungen übergehen.

Während die EU die Anwendung des KI-Gesetzes verfeinert, füllen nationale Behörden wie die AGCM die Vollzugslücke. Sie nutzen bestehende Verbraucherschutzgesetze, um die Qualität und Sicherheit von KI-Interaktionen zu überwachen. Italienische Nutzer können in den kommenden Monaten auffälligere, unvermeidbare Warnhinweise bei DeepSeek und möglicherweise anderen KI-Plattformen erwarten.

Die AGCM wird die Einhaltung der Vereinbarung überwachen. Bei Verstößen könnte die Untersuchung wieder aufgenommen werden. Die finanziellen Strafen können nach italienischem Recht bis zu 10 Prozent des globalen Umsatzes eines Unternehmens betragen.

PS: Die AGCM-Entscheidung in Italien macht deutlich, dass nationale Behörden KI-Transparenz aktiv durchsetzen. Sind Sie sicher, dass Ihre Kennzeichnung und Dokumentation DSGVO- und AI-Act-konform sind? Laden Sie das kompakte Umsetzungs-E-Book zur EU-KI-Verordnung kostenlos herunter: Es fasst Anforderungen, Risikoklassen und notwendige Nachweise zusammen und enthält eine Schritt-für-Schritt-Checkliste für die Praxis. Plus Praxistipps, Muster-Dokumente und Hinweise, wie Sie nationale Auflagen ergänzend zur DSGVO erfüllen. Jetzt KI-Compliance-Guide herunterladen