EU-Gesetzgebung zu KI: Kritik nach Marathonsitzung

Am Freitag sollte die EU-Einigung zu Künstlicher Intelligenz stehen. Doch das Prozedere und die letzten Streitpunkte sorgen für Proteste.

Auch in der Medizin wird KI schon eingesetzt, hier im Unfallkrankenhaus Berlin   Foto: picture alliance/dpa | Monika Skolimowska

Berlin taz | In den Schlussverhandlungen zu einem europäischen Regelwerk für Künstliche Intelligenz (KI) kommt aus Zivilgesellschaft und Wissenschaft Kritik an der Marathonsitzung – und den in letzter Minute aufgekommenen Streitpunkten. Auf ihrer Trilog-Sitzung zum AI Act, die eigentlich den Abschluss der Verhandlungen bilden sollte, haben die Beteiligten von Mittwochnachmittag bis weit in den Donnerstag hinein verhandelt. Nach einem Sitzungsmarathon vertagten sich die Beteiligten auf Freitag.

„Nach über 20 Stunden Verhandlungen setzten sich übermüdete Gesetzgeber unter Schlafentzug heute gegenseitig unter Druck, um eine inakzeptable Einigung zu erzielen – zu einigen der grundlegendsten Auswirkungen, die KI auf Mensch und Gesellschaft haben kann“, kritisierte die Menschenrechtsorganisation Algorithmwatch am Donnerstagabend.

Einer der Streitpunkte ist Berichten zufolge der Einsatz von KI-Systemen im Kontext von biometrischer Überwachung, also beispielsweise KI-basierte Gesichtserkennung. Das EU-Parlament hatte in seiner Position ein Verbot derartiger Anwendungen festgehalten. Der Punkt der biometrischen Überwachung war schon zuvor Streitpunkt im Gesetzgebungsprozess. Besonders aus den Mitgliedsstaaten gab es Begehrlichkeiten, ein möglichst hohes Maß an Überwachung zu erlauben, etwa für militärische Zwecke und zum Schutz der „nationalen Sicherheit“.

„Es wäre inakzeptabel, hinter dem Rücken der Bevölkerung einem Deal zuzustimmen, der die Voraussetzungen für einen weit verbreiteten Einsatz von KI-Systemen in höchst sensiblen Bereichen schafft“, sagt Angela Müller, KI-Expertin bei Algorithmwatch. Auch die KI-Forscherin Sandra Wachter, Professorin an der Universität Oxford, kritisierte das Prozedere. Sie plädierte dafür, die Verhandlungen auf Januar zu vertagen. Eine gute Lösung im Sinne der Menschen- und Grundrechte sei wichtiger, als sofort zu einer Einigung zu kommen.

Einigung bei Basismodellen nahe

Eine Einigung soll dem Vernehmen nach bei einem im Vorfeld umstrittenen Punkt nahe sein: den besonders leistungsfähigen KI-Modellen, den Foundation Models (Basismodellen). Zu denen gehört beispielsweise GPT, auf dem die Anwendung ChatGPT basiert. Die Basismodelle bilden die Grundlage für zahlreiche weitere Anwendungen.

Kurz vor den Schlussverhandlungen hatten sich drei EU-Staaten, darunter Deutschland, gegen eine Regulierung dieser Modelle ausgesprochen. Stattdessen sollte es nur eine Selbstregulierung geben – ein Vorschlag, den Expertin Wachter als „fast schon empörend“ bezeichnete: „Eine Selbstregulierung heißt nichts anderes, als dass ich mich an die Regeln halte oder eben nicht.“

Diese Position Deutschlands und seiner Mitstreiter scheint sich nun nicht durchgesetzt zu haben. Doch eine umfassende Regulierung der Basismodelle könnte auch vom Tisch sein. Laut der Nachrichtenagentur Reuters, die Verhandlungsunterlagen einsehen konnte, soll nun vielmehr eine Liste mit KI-Modellen erarbeitet werden, die „systemische Risiken“ bergen.

Die Verhandlungen zwischen EU-Parlament, Kommission und Mitgliedsstaaten sollten am Freitagmorgen fortgesetzt werden. Die Beteiligten haben ein grundsätzliches Interesse an einer baldigen Lösung, da im kommenden Jahr Europawahlen anstehen. Zwar können auf EU-Ebene Gesetzgebungsprozesse auch in die nächste Legislaturperiode mitgenommen werden. Doch aufgrund sich ändernder Mehrheiten wäre dann zu erwarten, dass das Paket dann noch einmal komplett neu aufgeschnürt würde.

Comments

[lesnmachtdumm]

Werden wir bald MIT den KI über ihre Rechte verhandeln müssen, anstatt über sie ? Blauäugig ins ganz ganz große Verderben ?