Die Leopoldina wirbt für einen nüchternen Blick auf Möglichkeiten und Grenzen Künstlicher Intelligenz (KI).

In einem Diskussionspapier erinnert die Nationale Akademie der Wissenschaften unter anderem daran, welche vielfältigen "Täuschungspotenziale" im Zusammenhang mit generativer KI bestehen - etwa wenn Nutzern nicht bewusst ist, dass sie mit einer KI kommunizieren oder wenn sie nicht wissen, was eine KI leisten kann und was nicht, teilte die Institution mit.

Leopoldina warnt vor neuen Dimensionen möglichen Missbrauchs

"Oft neigen Nutzerinnen und Nutzer dazu, der KI menschliche Fähigkeiten wie Bewusstsein oder Verständnis zuzuschreiben. Die Qualität, Einfachheit und Geschwindigkeit, mit der heute Texte, Bilder und Videos generiert werden können, eröffnen neue Dimensionen des möglichen Missbrauchs, zum Beispiel wenn generative KI für Propaganda oder kriminelle Zwecke eingesetzt wird", hieß es. Wo Transparenz unverzichtbar sei - etwa im juristischen Kontext - dürfe KI nur mit äußerster Vorsicht eingesetzt und entwickelt werden.

Fehlende Kontrolle durch Institutionen und Normen

Nach Einschätzung der Wissenschaftler kann KI durch ihre Fähigkeit, Texte, Bilder und Videos zu erstellen, den Alltag der Menschen enorm unterstützen. Sie könne aber auch für Deep Fakes oder Propaganda missbraucht werden. Zudem sei jede KI "ein Abbild der ihr zugrunde liegenden Trainingsdaten und der vorher festgelegten Ziele ihrer Entwicklung". Beides entziehe sich der Kontrolle durch Institutionen und Normen.

"Inzwischen gibt es erste Ansätze, der Intransparenz oder der Nichtobjektivität (Bias) generativer KI entgegenzuwirken", hieß es weiter. Allerdings warnen die Autorinnen und Autoren des Diskussionspapiers vor überzogenen Erwartungen. Mit der Publikation "Generative KI - jenseits von Euphorie und einfachen Lösungen" wolle man einen realistischen Blick auf Möglichkeiten und Herausforderungen bei der Entwicklung und Anwendung von KI werfen.

Die Leopoldina vertritt die deutsche Wissenschaft in internationalen Gremien. Sie hat rund 1.700 Mitglieder aus mehr als 30 Ländern und vereinigt Expertise aus nahezu allen Forschungsbereichen. Sie wurde 1652 gegründet und 2008 zur Nationalen Akademie der Wissenschaften Deutschlands ernannt.