AkdÄ warnt vor KI-Medizin: Sicherheitsrisiken für Patienten

Die Arzneimittelkommission der deutschen Ärzteschaft (AkdÄ) schlägt Alarm: Der rasante Wechsel von evidenzbasierter Medizin zu KI-gestützter Therapie gefährdet die Patientensicherheit. In einer aktuellen Stellungnahme warnt die Kommission vor unkritischem Vertrauen in Algorithmen.

KI-Medizin: Paradigmenwechsel mit Risiken

Die AkdÄ sieht die Medizin an einem kritischen Wendepunkt. Während künstliche Intelligenz in Diagnostik und Therapieplanung Effizienz verspricht, droht sie die bewährten Standards der evidenzbasierten Medizin (EbM) zu untergraben. Das Problem: Viele KI-Systeme arbeiten als “Blackbox” – ihre Entscheidungswege sind nicht nachvollziehbar.

“Die Medizin darf sich nicht von Korrelationen blenden lassen, wo Kausalität gefragt ist”, verdeutlicht die Kommission. Algorithmische Empfehlungen, die auf statistischen Wahrscheinlichkeiten basieren, können die auf klinischen Studien gestützte Evidenz nicht ersetzen. Besonders heikel wird es, wenn KI-Empfehlungen etablierten Therapieleitlinien widersprechen.

Seit August 2024 gelten neue EU‑Regeln für KI-Systeme – und viele Kliniken, Hersteller und DiGA‑Anbieter sind noch nicht ausreichend vorbereitet. Unser kostenloser Umsetzungsleitfaden zur EU‑KI‑Verordnung erklärt praxisnah, welche Risikoklassen, Kennzeichnungspflichten und Dokumentationsanforderungen jetzt relevant sind und liefert Checklisten für die schnelle Compliance‑Umsetzung. Praktisch für Verantwortliche, die Patientensicherheit und Rechtssicherheit verbinden müssen. Jetzt kostenlosen KI‑Verordnungs‑Leitfaden herunterladen

Compliance-Lücke im digitalen Krankenhaus

Für Kliniken und Praxen entsteht eine neue Herausforderung: KI-Compliance. Die AkdÄ macht deutlich, dass der Einsatz von KI-Tools künftig strengen Prüfungen unterliegen wird. “Smart Hospital”-Technologien müssen nicht nur funktionieren, sondern auch den wissenschaftlichen Standards genügen.

Die Kommission identifiziert drei Hauptrisiken:
* Datenverzerrung und Halluzinationen: KI-Modelle können plausible, aber falsche Therapievorschläge generieren
* Verlust ärztlicher Urteilskraft: Automatisierung droht, die kritische Reflexion des behandelnden Arztes zu verdrängen
* Regulatorisches Vakuum: KI-Entwicklung läuft klinischen Validierungsstudien davon

Wissenschaftliche Führung mit klarer Linie

Unter Leitung von Professor Dr. Bernd Mühlbauer positioniert sich die AkdÄ als kritische Instanz. Die Kommission betont ihren Auftrag zur “unabhängigen Arzneimittelinformation” – der nun auch für “digitale Arzneimittel” in Form von Algorithmen gilt.

Damit sendet die AkdÄ ein klares Signal an Pharmaindustrie und Medizintechnik: KI-Produkte werden denselben Beweislasten unterliegen wie neue Wirkstoffe. Diese Haltung entspricht dem Konzept der Rationalen Pharmakotherapie, die Patientensicherheit über technologische Innovation stellt.

Europäischer Kontext: KI-Gesetz und Gesundheitsdatenraum

Die Warnung kommt zur rechten Zeit. Während die EU mit dem KI-Gesetz und dem European Health Data Space (EHDS) den digitalen Wandel vorantreibt, mahnt die AkdÄ zur Vorsicht. Die Kommission wirkt als regulatorische Bremse, die Sicherheit vor Geschwindigkeit stellt.

Für Hersteller digitaler Gesundheitsanwendungen (DiGA) bedeutet dies höhere Hürden. KI-Tools zur Therapieunterstützung müssen künftig “EbM-Äquivalenz” nachweisen. Einfache Datenkorrelationen werden nicht ausreichen, um den Berufsstandstandards der Ärzteschaft zu genügen.

Rechtsexperten sehen bereits Auswirkungen auf Haftungsfragen. Sollte die AkdÄ “unkritisches Vertrauen in KI” als Pflichtverletzung einstufen, müssen Krankenhäuser umgehend Compliance-Strukturen anpassen.

Vorschau: Fachdialog im Februar 2026

Die Debatte gipfelt am 21. Februar 2026 beim AkdÄ-Fortbildungstag in Berlin. Die Session “Von EbM zu KIbM?” soll konkrete Leitlinien für den Übergang zur KI-Medizin erarbeiten – ohne Abstriche bei der Patientensicherheit.

Bis dahin gilt die aktuelle Stellungnahme als Weckruf: Der digitale Wandel in der Medizin ist unaufhaltsam, muss sich aber weiterhin an evidenzbasierten Prinzipien messen lassen. Ärztliche Entscheidung bleibt menschliche Verantwortung – unterstützt durch Technik, nicht ersetzt durch sie.

PS: Übrigens: Wenn Ihre Klinik oder Ihr Unternehmen Prozesse zur KI‑Sicherheit und Dokumentation anpassen muss, liefert unser gratis E‑Book zur EU‑KI‑Verordnung einen kompakten, sofort umsetzbaren Fahrplan. Es fasst Kennzeichnungspflichten, Risikoklassen und Übergangsfristen verständlich zusammen und bietet Vorlagen, mit denen Sie Compliance‑Nachweise systematisch aufbauen können. Kostenlosen Umsetzungsleitfaden zur KI‑Verordnung anfordern