TikTok und Pinterest führen Filter gegen „KI-Schrott“ ein

Nutzer erhalten erstmals direkte Kontrolle über die Flut generativer KI-Inhalte in ihren Social-Media-Feeds. Führende Plattformen reagieren damit auf wachsende Kritik an massenhaft produziertem, oftmals absurden „KI-Schrott“, der die Nutzererfahrung beeinträchtigt.

Vom KI-Boom zur Gegenreaktion

Die Einführung der Filter markiert eine Wende. Nachdem Tech-Konzerne monatelang KI-Erstellungstools vorangetrieben haben, müssen sie sich nun mit den Konsequenzen auseinandersetzen. Tools wie OpenAI’s Sora oder Google’s Veo machen die Erstellung täuschend echter Videos aus Textbefehlen kinderleicht. Die Folge: Soziale Feeds werden mit synthetischen Inhalten überschwemmt. Die Nutzer-Frustration über diese als „AI Slop“ bezeichnete Flut an billig produzierten Inhalten war der Auslöser für die neuen Einstellungen.

So funktionieren die neuen Kontrollen

Pioniere sind TikTok und Pinterest. Die Kurzvideo-Plattform TikTok hat in den Inhaltspräferenzen einen speziellen Regler eingeführt. Nutzer können dort einstellen, ob sie mehr oder weniger KI-generierte Inhalte in ihrem „For You“-Feed sehen möchten. Das Ziel ist laut Plattform nicht die vollständige Abschaffung, sondern eine bessere Anpassung an die Nutzerwünsche.

Passend zum Thema KI-Moderation: Die EU-KI-Verordnung hat neue Pflichten eingeführt – von Kennzeichnungspflichten bis zu Nachweispflichten für Plattformbetreiber und Entwickler. Wer jetzt nicht vorbereitet ist, riskiert hohe Auflagen oder Bußgelder. Ein kostenloser Umsetzungsleitfaden erklärt verständlich, welche Regeln gelten und welche Schritte Plattformen & Entwickler sofort umsetzen sollten. Kostenlosen Leitfaden zur KI-Verordnung herunterladen

Auch der visuelle Entdeckungsdienst Pinterest reagiert auf Nutzerfeedback. In den Einstellungen lassen sich nun Empfehlungen verfeinern und Interessen im Zusammenhang mit generativer KI deaktivieren. Diese Mechanismen verschieben das Nutzererlebnis vom passiven Konsum hin zu aktiver Gestaltung.

Uneinheitliche Strategien der Tech-Giganten

Nicht alle großen Player setzen auf direkte Filter. Meta (Instagram, Facebook) und YouTube bieten zwar Möglichkeiten, synthetischen Medien seltener zu begegnen, verzichten aber bisher auf einen einfachen Ein-/Ausschalter. Metas Strategie konzentriert sich vor allem auf die Kennzeichnung von KI-Inhalten zur besseren Transparenz.

Diese unterschiedlichen Ansätze spiegeln eine grundsätzliche Debatte wider: Sollten Plattformen in erster Linie kennzeichnen oder den Nutzern direkte Filterwerkzeuge in die Hand geben? YouTube-Chef Neal Mohan hat die Probleme mit minderwertiger KI-Inhalte bereits öffentlich anerkannt und soll gegen Kanäle vorgehen, die diese massenhaft produzieren.

Nischen-Apps setzen auf radikale KI-Abwehr

Während die Giganten abwägen, gehen kleinere, spezialisierte Plattformen weiter. Die Künstler-Netzwerk Cara filtert KI-Inhalte durch eine Mischung aus Algorithmen und menschlicher Moderation heraus. Sie wirbt offensiv mit authentischer, menschlicher Verbindung.

In der Musik-Streaming-Branche setzt Coda Music auf Nutzer-Meldungen. Verdächtige KI-generierte Tracks können gemeldet werden. Bestätigte „KI-Künstler“-Accounts werden gekennzeichnet, und Hörer können diese komplett aus ihren Empfehlungen ausschließen. Sogar Neuankömmlinge wie diVine, ein Reboot der alten Vine-App, werden mit dem expliziten Versprechen „Kein KI-Schrott“ vermarktet.

Ein Wettlauf zwischen Technologien

Die neuen Filter sind nur der erste Schritt in einem technologischen Wettrennen. TikTok testet bereits „unsichtbares Wasserzeichen“, um KI-Inhalte auch nach dem Herunterladen und erneuten Hochladen zuverlässig zu identifizieren. Mit fortschreitender Entwicklung der KI-Modelle wird es immer schwieriger, ihre Erzeugnisse von menschlichen Kreationen zu unterscheiden.

Der Kampf zwischen Generierung und Erkennung wird sich verschärfen. Bis komplexere Lösungen marktreif sind, bleibt der einfache Regler in der Hand der Nutzer die direkteste Antwort auf ein Problem, das voraussichtlich noch wachsen wird.

PS: Die Debatte um Kennzeichnung und Nutzer-Filter zeigt, wie wichtig klare Regeln sind. Dieses kostenlose E‑Book zur EU-KI-Verordnung fasst Kennzeichnungspflichten, Risikoklassen und Übergangsfristen kompakt zusammen und liefert eine Schritt-für-Schritt-Checkliste für die Umsetzung – ideal für Plattformbetreiber, Moderationsteams und Entwickler, die jetzt handeln müssen. Jetzt kostenlosen KI-Umsetzungsleitfaden sichern