Neue Regeln für KI: „Big Brother“ nicht gebannt

Die EU bekommt das weltweit erste Gesetz, das den Einsatz Künstlicher Intelligenz regeln soll. Sicherheitsbehörden bekommen einige Freiheiten.

KI kann menschliche Muster erkennen, zum Beispiel den individuellen Abstand zwischen Augen, Nase und Mund – oder die Gangart Foto: Emma Innocenti/imago

Die einen jubeln, die anderen warnen: Der Weg für das weltweit erste Gesetz zur Regulierung sogenannter Künstlicher Intelligenz (KI) ist frei. Das Europaparlament stimmte dem „AI Act“ am Mittwoch in Straßburg zu. Anfang Februar hatten auch die Vertreter der 27 EU-Staaten grünes Licht gegeben. Damit kann das Regelwerk noch vor der Europawahl im Juni in Kraft treten.

Allerdings gab es gegenüber dem im Dezember erzielten Kompromiss noch einige umstrittene Änderungen. So wurden die strikten Regeln zum Verbot der biometrischen Überwachung aufgeweicht. Deutschland und Frankreich haben die EU-Kommission zudem aufgefordert, in einigen praktischen Fragen noch nachzubessern. So wollen sie Start-ups wie Aleph Alpha in Heidelberg und Mistral AI in Paris entgegenkommen.

Der nun verabschiedete Text folgt einem risikobasierten Ansatz. Er reguliert nicht alle KI-Systeme, sondern nur solche, die mit hohen Risiken verbunden sind, etwa in kritischen Infrastrukturen oder im Bildungs- und Gesundheitswesen. Militärische Anwendungen, die in den Kriegen in der Ukraine und im Gazastreifen eine wichtige Rolle spielen, werden weder erfasst noch beschränkt.

Sogar die viel diskutierte Frage, ob KI-Systeme qualifizierte Jobs übernehmen oder gar wegrationalisieren können, wurde ausgeklammert. Und neue generische Systeme wie ChatGPT wurden erst in letzter Minute aufgenommen. Sie sollen ihre Trainingsmethoden offenlegen. Das Hauptaugenmerk liegt aber nach wie vor beim Schutz der Grundrechte. So wird die in China verbreitete Bewertung von sozialem Verhalten in Europa verboten. Auch eine Emotionserkennung am Arbeitsplatz oder in Schulen soll es nicht geben. Kein „Big Brother“ – da waren sich die EU-Politiker einig.

Polizei darf Gesichtserkennung nutzen

Die Gesichtserkennung im öffentlichen Raum – etwa durch Videoüberwachung auf Straßen und Plätzen – soll grundsätzlich ebenfalls untersagt werden. Allerdings gibt es Ausnahmen. Polizei und andere Sicherheitsbehörden sollen solche KI-Systeme nutzen dürfen, um Straftaten wie Menschenhandel oder Terrorismus zu verfolgen.

Damit nehme die EU Flüchtlinge und Migranten ins Visier, warnt das digitale Netzwerk EDRI. Alarm schlägt auch der „digitale Freiheitskämpfer“ und EU-Abgeordnete Patrick Breyer (Piraten): „Statt uns vor einem High-Tech-Überwachungsstaat zu schützen, regelt der AI Act penibel, wie man ihn einführt.“ Breyer hat daher mit Nein gestimmt. Auch die Linke lehnte das Gesetz mehrheitlich ab.

„Quantensprung“ bei der digitalen Zukunft Europas

Verteidigt wird es dagegen von den Grünen. Man habe „deutliche Verbesserungen“ bei der Gesichtserkennung erreicht, sagte der Europaabgeordnete Sergey Lagodinsky. Auch verpflichtende Folgenabschätzungen auf die Grundrechte für bestimmte KI-Anwender sowie die Einführung von Umweltstandards für KI seien „grüne Erfolge“. Insgesamt sei das Gesetz ein „Quantensprung“.

Ähnlich sehen das die Sozialdemokraten. „Der weltweit erste umfassende Rechtsrahmen spielt eine entscheidende Rolle in der Gestaltung der digitalen Zukunft Europas“, sagte René Repasi, der neue Chef der SPD-Gruppe im Europaparlament. Von „Licht und Schatten“ spricht dagegen Axel Voss (CDU). Positiv sei, „dass wir ein flexibles und kooperatives digitales Gesetz geschaffen haben“.

Andererseits sei es schwierig, eine sich ständig weiterentwickelnde Technologie zu regulieren. Das sieht die Informatik-Branche ähnlich: „Beim AI Act sind noch viele Fragen offen“, erklärte der Branchenverband Bitkom. Die Politik dürfe nicht noch mehr regulieren, sondern müsse nun endlich „die Chancen der KI“ herausstellen.

Comments

[Rudi Hamm]

Keiner darf nichts, nur wir dürfen alles - ihre Sicherheitsbehörden.