Kritik an EU-Verordnung zur KI: Forderung nach mehr Präzision und Balance bei der Bewertung von Risiken und Nutzen

In einem aktuell im Fachmagazin Nature Medicine erschienenen Kommentar äußern sich Politikwissenschafterin Barbara Prainsack und Rechtswissenschafter Nikolaus Forgó von der Universität Wien differenziert zur KI-Verordnung der EU, die demnächst in Kraft treten soll: Zu wenig Beachtung des potenziellen Nutzens für die Gesellschaft, so lautet verkürzt das Fazit der beiden Expert*innen. Verbessert werden könnte die Verordnung durch eine umfassendere Bewertung der Vorteile der KI-Technologie, mehr öffentliche Investitionen und bessere demokratische Kontrolle.

Noch nicht in Kraft, aber bereits seit dem Erstentwurf im Jahr 2021 heiß diskutiert: die neue KI-Verordnung der Europäischen Union. Sie verfolgt einen risikobasierten Ansatz zur Regulierung von KI-Anwendungen – je höher das Risiko, desto strenger die Regulierung – und genau dieser steht nun im Zentrum der Diskussion. Die Leiter*innen der Forschungsplattform "Governance of Digital Practices" an der Universität Wien, Barbara Prainsack und Nikolas Forgó, analysieren die Grundzüge der KI-Verordnung in ihrem aktuellen Kommentar durchaus kritisch und fordern, Schwächen der Verordnung im Rahmen ihrer Auslegung durch einen "datensolidarischen" Ansatz zu kompensieren. "Datensolidarität" bedeutet dabei die systematischen Bewertung sowohl der Risiken als auch des Nutzens der KI-Technologie.

Eine differenzierte Betrachtung

So fällt ihre Beurteilung der Verordnung daher auch differenziert aus. Während sie einerseits im risikobasierten Ansatz Vorteile sehen, stellen Prainsack und Forgó Fragen an die Durchführbarkeit und Sinnhaftigkeit einer Risikoeinschätzung im Vorhinein.
Zudem kritisieren die Autor*innen, dass die Verordnung nur Risiken im Blick hat – und nicht auch den Wert evaluiert, den unterschiedliche Technologieanwendung für die Öffentlichkeit schaffen können. Sie äußern die Befürchtung, dass durch diesen rein risikoorientierten Ansatz Kontrollziele nicht erreicht werden und ökonomisch schwächere Marktteilnehmer negativ betroffen sein könnten. Wirtschaftlich mächtige Großkonzerne könnten nämlich auch dadurch noch weitere Vorteile erhalten, dass sie finanzkräftig genug seien, sich gegen eine hohe Risikoklassifizierung ihrer Technologien zu wehren – während kleinere Unternehmen und Organisationen diese Möglichkeit regelmäßig nicht hätten.

Mit Datensolidarität zum Ziel

Barbara Prainsack vom Institut für Politikwissenschaft erkärt: "Ein rein risikobasierter Regulierungsansatz ist zu kurz gegriffen. Besser wäre es, eine datensolidarische Perspektive einzubeziehen." Damit würde auch berücksichtigt, welche positiven Effekte ein bestimmtes KI-System für die Allgemeinheit haben könnte – was auch in die Bewertung miteinfließen und damit gemeinnützige Technologie-Anwendungen privilegieren würde. Kollege Nikolaus Forgó vom Institut für Innovation und Digitalisierung im Recht ergänzt: "Ein datensolidarischer Ansatz führt zu besserer Regulierung und stärkt gleichzeitig die europäische Wettbewerbsfähigkeit und das Gemeinwohl." Eine datensolidarische Ausrichtung ist bei der Auslegung der Verordnung und bei ihrer Flankierung durch öffentliche Investitionen zur Förderung öffentlicher digitaler Infrastrukturen daher dringend geboten.

Originalpublikation in Nature Medicine: 

New AI regulation in the EU seeks to reduce risk – but not increase public benefits. Barbara Prainsack and Nikolaus Forgó.
DOI: 10.1038/s41591-024-02874-2