ZEVEDI startet Projektgruppe für KI-Aufsicht

Deutschland sucht nach dem richtigen Modell für die Kontrolle Künstlicher Intelligenz. Das Zentrum für verantwortungsvolle Digitalisierung (ZEVEDI) hat dazu heute eine neue Forschungsgruppe gestartet.

Die Gruppe „KI-Aufsicht (AI-Sup)“ soll klären, wie die Vorgaben des neuen EU-KI-Gesetzes in stabile und demokratisch legitimierte Aufsichtsstrukturen übersetzt werden können. Die Arbeit beginnt zu einem kritischen Zeitpunkt: Die Mitgliedstaaten müssen nun Behörden benennen oder schaffen, die Hochrisiko-KI-Systeme überwachen können.

Die Balance zwischen Unabhängigkeit und Demokratie

Die Kernfrage der Projektgruppe lautet: Wie viel Unabhängigkeit braucht die KI-Aufsicht – und wie lässt sich diese mit demokratischer Kontrolle vereinbaren? Das EU-Gesetz verlangt von nationalen Behörden unparteiisches Handeln ohne externe Einflussnahme. Im deutschen Rechtsstaat unterliegen Behörden jedoch typischerweise der parlamentarischen und ministeriellen Aufsicht.

Passend zum Thema EU-KI-Gesetz sollten Verantwortliche jetzt prüfen, ob ihre KI-Systeme korrekt klassifiziert und dokumentiert sind. Der kostenlose Umsetzungsleitfaden zur KI‑Verordnung erklärt kompakt Kennzeichnungspflichten, Risikoklassen, Nachweispflichten und die wichtigsten Übergangsfristen — ideal für Entwickler, Compliance-Teams und Entscheider, die rechtliche Risiken vermeiden wollen. Mit praxisnahen Checklisten, Schritt-für-Schritt-Empfehlungen und konkreten Handlungshinweisen. Der Leitfaden fasst die wichtigsten Pflichten verständlich zusammen und hilft, Strategie und Ressourcenplan für die Umsetzung zu erstellen. Jetzt kostenlosen KI-Umsetzungsleitfaden herunterladen

„Hier besteht ein potenzielles Spannungsfeld“, erklärt ein ZEVEDI-Sprecher. Die Forscher, darunter Experten der Frankfurt School und der TU Darmstadt, werden verschiedene institutionelle Modelle in Europa analysieren. Ziel ist es, nachhaltige Blaupausen für die deutsche Umsetzung zu identifizieren.

Gefahr eines Flickenteppichs in Europa

Eine große Herausforderung ist die Vielfalt der nationalen Verwaltungstraditionen. Während die EU einheitliche Standards setzt, liegt die Umsetzung weitgehend bei den Mitgliedstaaten. Diese Flexibilität birgt Risiken.

Analysten warnen vor einer „regulatorischen Verzerrung“, wenn die Strenge der Durchsetzung von Land zu Land stark variiert. Das würde den Binnenmarkt für KI-Systeme untergraben und Unternehmen in Ländern mit bürokratischeren Strukturen benachteiligen. Die ZEVEDI-Gruppe will bewerten, welche Organisationsstrukturen eine einheitliche Anwendung des Rechts am besten gewährleisten.

Zudem untersucht das Team das Zusammenspiel von staatlicher Aufsicht und privater Verantwortung. Die Effizienz des neuen Regimes hängt stark von Compliance-Mechanismen der Wirtschaft ab. Die Forscher prüfen, wie Behörden effektiv mit diesen privaten „Kontrollschichten“ zusammenarbeiten können.

Interdisziplinärer Ansatz für komplexe Fragestellung

ZEVEDI, eine Einrichtung des Hessischen Ministers für Digitale Strategie und Entwicklung, bündelt mit dem Projekt erneut Expertise aus Recht, Politikwissenschaft und Wirtschaft. Die Einbeziehung von Ökonomen wie Dr. Emanuel Mönch stellt sicher, dass auch die wirtschaftlichen Folgen von Regulierungsentscheidungen – wie Compliance-Kosten und Innovationshemmnisse – bedacht werden.

Das Projekt ist zunächst für 2026 angesetzt und soll konkrete Handlungsempfehlungen für Landes- und Bundesentscheider liefern. Deutschland steht vor der Entscheidung, ob es die KI-Aufsicht bestehenden Behörden zuweist oder neue, spezialisierte Einrichtungen schafft.

Warum die „institutionelle Frage“ jetzt drängt

Das Timing des Projekts ist entscheidend. Das EU-KI-Gesetz ist kein Zukunftsszenario mehr, sondern aktives Recht. Wichtige Verbote gelten bereits, und die Pflichten für Hochrisiko-Systeme treten bald voll in Kraft. Für Unternehmen hat sich die Unsicherheit verschoben: Es geht nicht mehr um das „Was“ der Regeln, sondern um das „Wer“ der Durchsetzung.

Rechtsexperten sehen hier derzeit den größten Engpass. Anders als die Datenschutz-Grundverordnung (DSGVO), die auf etablierte Aufsichtsbehörden zurückgreifen konnte, betrifft das KI-Gesetz eine Technologie, die Produktsicherheit, Grundrechte und Branchenregeln überschneidet. Diese Komplexität erfordert ein technisch versiertes und rechtlich robustes Aufsichtsmodell.

Die ZEVEDI-Initiative adressiert eine oft übersehene Lücke: den Staatsapparat selbst. Sind Aufsichtsbehörden unterfinanziert, nicht unabhängig oder leiden unter einem „demokratischen Defizit“, könnte die Legitimität des gesamten Rahmens in Frage stehen. Die Gruppe bearbeitet damit die „Installationsarbeit“ der KI-Governance.

Was als nächstes zu erwarten ist

In den kommenden Monaten wird die Projektgruppe eine Reihe von Arbeitspapieren und Policy Briefs veröffentlichen. Besonders gespannt wird auf die Analyse der „Unabhängigkeitsanforderungen“ im KI-Gesetz geschaut. Diese könnte die Debatte im Bundestag über die Befugnisse der nationalen KI-Behörde beeinflussen.

Die Empfehlungen werden voraussichtlich auch die föderale Dimension der KI-Aufsicht behandeln. Die Koordination zwischen Bundes- und Landesbehörden ist in Deutschland ein potenzieller Reibungspunkt. Ein wissenschaftlich fundiertes Modell für diese Zusammenarbeit könnte den Aufbau der Aufsichtsarchitektur beschleunigen und Rechtssicherheit für KI-Entwickler schaffen.

Als größter Mitgliedstaat kommt Deutschland eine Schlüsselrolle zu, wenn die EU weltweit Standards für vertrauenswürdige KI setzen will. Die heute in Darmstadt und Wiesbaden beginnende Arbeit ist ein entscheidender Schritt, um die dafür nötige institutionelle Kapazität auf ein solides Fundament zu stellen.

PS: Deutschland entscheidet jetzt, wer KI-Aufsicht übernimmt — für Unternehmen bedeutet das Handlungsdruck. Holen Sie sich den Gratis‑Leitfaden zur EU‑KI‑Verordnung mit praktischer Checkliste, die zeigt, wie Sie Ihr System richtig klassifizieren, erforderliche Dokumente vorbereiten und Fristen einhalten. Ideal zum direkten Einsatz in Workshops oder für die interne Compliance‑Prüfung. Gratis‑Leitfaden zur EU‑KI‑Verordnung anfordern