EU-Regulierung für ChatGPT und Co.: Keine Massenüberwachung

EU-Abgeordnete stimmen für Auflagen für Künstliche Intelligenz. Bürgerrechtler:innen äußern sich positiv. Das war beim Vorschlag des Rats noch anders.

Eine KI-gesteuerte Überwachung des öffentlichen Raumes wird es in Europa erstmal nicht geben Foto: Michael Gottschalk/photothek.net/imago

BERLIN taz | Das europäische Regelwerk für Künstliche Intelligenz (KI) nimmt Formen an: Im Europaparlament haben sich am Donnerstag die beiden federführenden Ausschüsse für strenge Auflagen von Diensten mit KI ausgesprochen. So stimmten die Abgeordneten beispielsweise für ein vollständiges Verbot biometrischer Massenüberwachung im öffentlichen Raum sowie von Gesichtserkennungsdatenbanken. Verbrauchernahe Verbände und Parteien begrüßten das Ergebnis: Von einem „starken Signal“ sprach Nikolett Aszódi von der Organisation AlgorithmWatch.

Die EU arbeitet bereits seit mehr als zwei Jahren an einer Regulierung für den Einsatz von KI. In den vergangenen Monaten sind KI-Dienste erstmals auch für eine breite Öffentlichkeit erlebbar geworden: etwa durch den Textgenerator ChatGPT oder Bildgeneratoren wie Midjourney und Stable Diffusion.

Auf dem Markt der Suchmaschinen läuft derzeit sogar eine Art Wettrennen um den ersten Anbieter, der mit einer KI-Suchmaschine Google Konkurrenz machen kann. Bing baute ChatGPT bereits in seine Suche ein, am Mittwoch kündigte nun auch Google auf seiner Entwicklerkonferenz an, in seiner klassischen Suchmaschine Antworten auf als Fragen formulierte Eingaben liefern zu wollen. Die Neuerung soll zunächst in den USA starten.

Auch diese Art von Diensten wird die Regulierung namens „AI Act“ noch betreffen. Denn gerade die Textgeneratoren machten schnell Negativschlagzeilen, weil sie Texte mit falschen Informationen generierten. Das „Zähmen der Chatbots“ werde noch viel Zeit und Kraft kosten, sagt Alexandra Geese, Digitalpolitikerin der europäischen Grünen. „Wir dürfen ihnen keine Spielräume überlassen, um Desinformationen zu verbreiten und hasserfüllte, falsche oder diskriminierende Inhalte zu verbreiten.“

Die EU stellt Menschen über Profite

Aszódi von AlgorithmWatch begrüßte besonders das Verbot von biometrischen Echtzeit-Fernerkennungstechniken, die zum Beispiel für die Gesichtserkennung genutzt werden können. Diese Instrumente seien eine Grundlage für Methoden der Massenüberwachung. „Sie dringen in unsere Privatsphäre ein und sind ein Nährboden für Diskriminierung“, kritisiert Aszódi. Auch Patrick Breyer, Europaabgeordneter der Piratenpartei, lobte das Ergebnis: „Die heutige Abstimmung ist ein historischer Durchbruch für die Bewegung, die eine dystopische Zukunft biometrischer Massenüberwachung in Europa nach chinesischem Vorbild verhindern will.“

Lob für viele Punkte kam auch von dem Netzwerk European Digital Rights (EDRi). „Mit diesem Beschluss zeigt die EU, dass sie willens ist, die Menschen über Profite zu stellen“, sagt EDRi-Referentin Ella Jakubowska. Einige Aspekte des Beschlusses sorgen aber auch für Kritik: Beispielsweise könnten Ent­wick­le­r:in­nen demnach selbst entscheiden, ob ihr System „signifikant“ genug sei, um als Hochrisiko-Produkt eingestuft zu werden. Für diese Risikoklasse gelten besonders strikte Anforderungen.

Zuletzt hatte sich Anfang Dezember der Rat der Europäischen Union, in dem die 27 Mitgliedsstaaten vertreten sind, auf eine gemeinsame Position geeinigt. Bürgerrechtsorganisationen kritisierten hier zahlreiche Schlupflöcher und Fehlanreize – etwa, dass die biometrische Erkennung von Menschen möglich gemacht würde.

Ein Dokument, das die Bürgerrechtsorganisation Digitalcourage veröffentlichte, zeigt, dass die Bundesregierung hier nicht in Opposition ging, obwohl es im Koalitionsvertrag heißt: „Biometrische Erkennung im öffentlichen Raum sowie automatisierte staatliche Scoring-Systeme durch KI sind europarechtlich auszuschließen.“

Comments

[Thorsten Gorch]

Tja, damit hat sich die EU final technologisch in der IT verabschiedet.