KI-Gesetz: EU droht Verzögerung bei menschlicher Kontrolle

Die verbindliche Einführung menschlicher Aufsicht für Hochrisiko-KI-Systeme in der EU könnte sich um über ein Jahr verzögern. Grund ist ein neuer Vorschlag der EU-Kommission, der aktuell diskutiert wird.

Brüssel. Während die EU die Umsetzung ihres wegweisenden KI-Gesetzes vorantreibt, gerät ein zentraler Pfeiler ins Wanken: die verpflichtende menschliche Kontrolle für Hochrisiko-KI. Eigentlich sollte diese Vorgabe aus Artikel 14 des KI-Gesetzes ab August 2026 verbindlich werden. Doch nun zeichnet sich eine Verschiebung bis Dezember 2027 ab. Auslöser ist der sogenannte „Digital Omnibus“-Vorschlag der EU-Kommission, der diese Woche auf der Agenda des KI-Boards stand.

Fristverlängerung im Gespräch

Hinter den Kulissen wird intensiv über eine Verschiebung der Deadline verhandelt. Ursprünglich mussten Anbieter von Hochrisiko-KI – eingesetzt etwa im Personalwesen, bei kritischer Infrastruktur oder von Strafverfolgungsbehörden – bis zum 2. August 2026 strenge Governance-Pflichten erfüllen. Dazu gehört zwingend die menschliche Aufsicht.

Analysen renommierter Anwaltskanzleien wie Fladgate und RPC, die Anfang Januar veröffentlicht wurden, deuten jedoch auf einen Kurswechsel hin. Die Kommission argumentiert mit einer nötigen „regulatorischen Erweichung“. Der Grund: Die harmonisierten technischen Standards, an denen die europäischen Normungsgremien CEN-CENELEC arbeiten, hinken dem Zeitplan hinterher und werden frühestens Mitte 2026 fertiggestellt.

Passend zum Thema EU-KI-Verordnung – viele Unternehmen tun sich schwer mit Risikoklassifizierung, Kennzeichnungspflichten und der nötigen Dokumentation. Ein kostenloser Umsetzungsleitfaden erklärt kompakt, welche Pflichten seit August 2024 gelten, welche Übergangsfristen Sie kennen müssen und wie Sie Kennzeichnung, Risikomanagement und Dokumentationsanforderungen praktisch umsetzen können. Ideal für Entwickler, Anbieter und Compliance-Verantwortliche. Jetzt kostenlosen KI-Umsetzungsleitfaden herunterladen

Sollten Parlament und Rat dem Vorschlag zustimmen, bliebe den Entwicklern zwar mehr Vorbereitungszeit. Verbraucherschützer warnen jedoch vor einer gefährlichen Lücke: Sie fürchten, dass sensible automatisierte Entscheidungen – etwa bei Kreditvergaben oder Einstellungen – weitere anderthalb Jahre ohne diese zentrale Kontrolle auskommen müssen.

Was Artikel 14 wirklich fordert

Im Kern der Debatte steht die konkrete Ausgestaltung der menschlichen Aufsicht. Artikel 14 schreibt verbindlich vor, dass „natürliche Personen“ die Funktionsweise von Hochrisiko-KI effektiv überwachen können müssen. Es geht nicht um bloße Proforma-Kontrolle.

Die Anforderungen sind substanziell: Überwacher müssen in der Lage sein, in den Betrieb der KI einzugreifen und sie notfalls komplett zu stoppen. Sie müssen geschult werden, um die Systemausgaben korrekt zu interpretieren und einen „Automation Bias“ zu vermeiden – also die unkritische Übernahme von KI-Empfehlungen. Zudem müssen die Systeme selbst die Erkennung von Anomalien ermöglichen. Juristen betonen, dass dies tiefgreifende Änderungen an der Architektur der KI-Systeme erfordert.

Geteilte Reaktionen aus Wirtschaft und Gesellschaft

Die mögliche Verzögerung stößt auf ein geteiltes Echo. Wirtschaftsverbände begrüßen die zusätzliche Atempause. Sie erhoffen sich mehr Planungssicherheit, um ihre Compliance-Strategien mit dem parallel in Arbeit befindlichen „Verhaltenskodex für General-Purpose-AI“ abzustimmen.

Auf der anderen Seite formiert sich scharfer Widerstand. Verbraucher- und Digitalrechtsorganisationen kritisieren die Pläne scharf. Eine Verschiebung des wichtigsten Schutzmechanismus gegen KI-Halluzinationen und Diskriminierung untergrabe das von der EU propagierte Vertrauen in „vertrauenswürdige KI“. Die zentrale Frage lautet: Wie viele fehlerhafte automatisierte Entscheidungen sind in der Übergangszeit hinnehmbar?

AI Office treibt Transparenz voran

Während über die Hochrisiko-KI diskutiert wird, arbeitet das neu eingerichtete Europäische KI-Amt an anderen Fronten weiter. Es hat den Prozess zur Erstellung des genannten Verhaltenskodex für KI-Grundmodelle (GPAI) gestartet. Dieser betrifft zwar nicht direkt Artikel 14, schafft aber durch verbindliche Kennzeichnungspflichten für KI-generierte Inhalte eine wichtige Grundlage für jede menschliche Überwachung. Nur wer Inhalte als synthetisch erkennt, kann sie angemessen kontrollieren. Erste Arbeitsgruppen tagen noch in dieser Woche.

Für Unternehmen bleibt die Lage vorerst unsicher. Rechtlich bindend ist weiterhin die Deadline August 2026. Experten raten jedoch, insbesondere die Schulung von Personal für Aufsichtsaufgaben bereits jetzt voranzutreiben. Die Schulungspflichten zur KI-Kompetenz (Artikel 4) gelten ohnehin schon. Ob nun 2026 oder 2027 – die Ära, in der KI in sensiblen Bereichen ohne echte menschliche Kontrolle agiert, neigt sich ihrem Ende zu. Die kommenden Wochen werden zeigen, wie schnell dieser Übergang tatsächlich vollzogen wird.

PS: Wenn Sie aktuelle Entscheidungen rund um Artikel 14 und die EU-KI-Verordnung verfolgen, lohnt sich ein praktischer Leitfaden für die Umsetzung. Der kostenlose Guide erklärt verständlich Kennzeichnungspflichten, Risikoklassen und die nötige Dokumentation – plus konkrete Schritte für Compliance-Teams und Entwickler, um Fristen einzuhalten. KI-Verordnung: Jetzt kostenlosen Leitfaden sichern