Anthropic entdeckt Schaltzentrale für KI-Persönlichkeiten

Forscher haben eine innere Steuerachse in großen Sprachmodellen identifiziert, die von hilfsbereiten Assistenten bis zu unberechenbaren Charakteren reicht. Diese Entdeckung revolutioniert die KI-Sicherheit.

New York – Ein Durchbruch in der KI-Sicherheitsforschung könnte das Problem unberechenbarer Chatbots endlich lösen. Das Forschungsunternehmen Anthropic hat einen fundamentalen Mechanismus in großen Sprachmodellen (LLMs) entdeckt, der deren Persönlichkeit steuert. Diese sogenannte „Assistant Axis“ erklärt, warum KI-Assistenten plötzlich ihr Verhalten ändern – und bietet einen direkten Weg, sie stabil zu halten.

Die im Januar veröffentlichte Studie zeigt: Die Persönlichkeit einer KI ist kein fester Zustand, sondern bewegt sich entlang eines messbaren Spektrums im neuronalen Netzwerk. Dieses Verständnis liefert erstmals eine Erklärung für das beunruhigende Phänomen des „Persona Drift“, bei dem Chatbots unerwartet ihr Verhalten ändern.

Passend zum Thema KI-Sicherheit: Die neue EU‑KI‑Verordnung verlangt dokumentierte Maßnahmen, Risikobewertungen und transparente Nachweise für KI‑Systeme — Versäumnisse können zu empfindlichen Bußgeldern führen. Unser kostenloser Umsetzungsleitfaden fasst praxisnah die wichtigsten Pflichten, Risikoklassen, Dokumentationsanforderungen und Übergangsfristen zusammen und zeigt konkrete Schritte für Entwickler, Betreiber und Compliance‑Teams. Mit Checklisten und Empfehlungen für die sofortige Umsetzung. Kostenlosen KI‑Umsetzungsleitfaden herunterladen

Wie managen KIs verschiedene Rollen? Um das herauszufinden, kartierten Anthropic-Forscher den „Persona-Raum“ mehrerer prominenter Open-Weight-Modelle, darunter Systeme von Google, Meta und Alibaba. Die Modelle sollten 275 verschiedene Archetypen annehmen – von professionellen Rollen wie „Analyst“ bis zu fantastischen Figuren wie „Geist“.

Die Analyse der neuronalen Aktivitätsmuster zeigte eine verblüffende Konsistenz. Die überwältigende Mehrheit der Persönlichkeitsvariation ließ sich durch eine einzige, dominante Dimension erklären: die Assistant Axis. Am einen Ende dieses Spektrums sammelten sich hilfsbereite, professionelle Personas. Am gegenüberliegenden Ende fanden sich unkonventionelle und solitäre Charaktere.

„Diese innere Struktur scheint ein grundlegender Aspekt davon zu sein, wie aktuelle LLMs das Simulieren verschiedener Identitäten lernen“, erklärt ein Forscher. Sie existiere bereits, bevor spezifisches Sicherheitstraining angewendet werde.

Diese Entdeckung erklärt auch den Persona Drift. Bestimmte Konversationen – besonders tiefgreifende philosophische Fragen oder Gespräche mit hoher emotionaler Vulnerabilität – können die neuronale Aktivität eines Modells vom hilfsbereiten Ende der Achse wegdriften lassen. Die Folge: dramatische Charakterverschiebungen.

Ein neues Werkzeug für sichere und stabile KI

Die Identifizierung der Assistant Axis ist mehr als akademische Neugier. Sie hat unmittelbare praktische Anwendungen für die KI-Sicherheit. Eine der größten Herausforderungen ist die Abwehr von „Persona-basierten Jailbreaks“. Bei diesen Angriffen wird ein Modell überredet, eine bösartige Rolle wie einen „Darkweb-Hacker“ anzunehmen, um seine Sicherheitsbeschränkungen zu umgehen.

Die neue Forschung legt nahe, dass diese Jailbreaks funktionieren, indem sie den internen Zustand des Modells von seiner standardmäßigen hilfsbereiten Persona wegschieben. In Experimenten zeigte das Anthropic-Team: Durch künstliches Steuern der neuronalen Aktivierung zurück zum positiven Ende der Achse ließ sich die Erfolgsrate solcher Jailbreaks halbieren.

Dies bietet eine direktere und präzisere Methode, um die beabsichtigte Ausrichtung eines Modells aufrechtzuerhalten. Die Forschung fällt in das aufstrebende Feld der Representation Engineering, das KI-Verhalten durch direkte Manipulation interner neuronaler Repräsentationen kontrollieren will – statt sich nur auf externe Eingaben oder aufwändiges Neutraining zu verlassen.

„Activation Capping“: Die präzise Korrektur instabiler KI

Das ständige Steuern der KI-Persönlichkeit könnte deren Leistungsfähigkeit beeinträchtigen. Daher entwickelten die Forscher eine verfeinerte Technik namens „Activation Capping“. Diese Methode etabliert eine Baseline für normale neuronale Aktivität entlang der Assistant Axis während typischer, hilfsbereiter Konversationen.

Das System überwacht den internen Zustand der KI in Echtzeit und greift nur ein, wenn die Aktivierungen diesen vordefinierten gesunden Bereich verlassen. Dieser „leichtfüßige“ Ansatz wirkt wie eine Leitplanke: Er verhindert, dass das Modell in problematisches Persönlichkeits-Territorium abdriftet, ohne seine normale Funktion zu stören. Die Ergebnisse waren signifikant: Activation Capping reduzierte schädliche Antworten in Testszenarien um fast 60 Prozent.

Die Zukunft kontrollierbarer KI

Dieser Durchbruch markiert einen fundamentalen Wandel im Verständnis und Management von KI-Verhalten. Indem die Forschung über die „Black-Box“-Sicht auf LLMs hinausgeht und eine Schlüsselstruktur identifiziert, die deren Charakter diktiert, liefert sie Entwicklern ein mächtiges Werkzeug für zuverlässigere Systeme.

Die Fähigkeit, Persona Drift entlang der Assistant Axis zu überwachen, vorherzusagen und zu kontrollieren, ist ein kritischer Schritt. Er soll sicherstellen, dass KI-Modelle – je mächtiger und gesellschaftlich integrierter sie werden – hilfsbereit, harmlos und ehrlich bleiben. Die in dieser Studie pionierhaft entwickelten Techniken ebnen den Weg, KI-Verhalten von innen heraus chirurgisch zu korrigieren. Die Persönlichkeit unserer digitalen Assistenten könnte damit künftig stabil designt sein.

PS: Wer LLMs entwickelt oder einsetzt, sollte die Anforderungen der EU‑KI‑Verordnung kennen — von Kennzeichnungspflichten über Risikoklassifizierung bis zu umfangreichen Dokumentationspflichten. Der kostenlose Leitfaden erklärt Schritt für Schritt, welche Nachweise nötig sind, wie Sie Ihr System richtig klassifizieren, welche technischen und organisatorischen Maßnahmen empfohlen werden und welche Fristen zu beachten sind. Ein schneller Praxis‑Check für Teams, die KI sicher, transparent und rechtskonform betreiben wollen. Jetzt EU‑KI‑Leitfaden sichern