Künstliche Intelligenz: Regulierung mit mehr Überwachung

Der frische Kompromiss zu künstlicher Intelligenz wird gerade schon wieder aufgeweicht. Bürgerrechtsorganisationen sind verärgert.

Immer mehr Aufzeichnungen von Überwachungskameras können mit KI ausgewertet werden. Das schafft viele neue Probleme Foto: Daniel Vogl/dpa

BERLIN taz | Einen Monat nachdem sich die EU-Gremien auf eine Regulierung zu künstlicher Intelligenz (KI), den AI Act, geeinigt haben, gibt es neuen Streit über die Details. Konkret geht es um die Frage der biometrischen Massenüberwachung. So hat das Portal netzpolitik.org nun die bereits im Dezember von der spanischen Ratspräsidentschaft formulierte Version des umstrittenen Artikels veröffentlicht, die die mündlich geschlossene Einigung ausformuliert. Deutlich aufgeweicht darin: die Grenzen für die biometrische Massenüberwachung von Menschen.

EU-Kommission, Parlament und Rat hatten sich im Dezember, nach einem rund 37-stündigen Verhandlungsmarathon auf Regeln für KI geeinigt. Der Kompromiss gilt als Meilenstein, ist es doch die erste verbindliche Regelung in diesem Umfang. Die Inhalte werden als Blaupause gehandelt, an der sich auch andere Länder, etwa die USA, orientieren könnten.

Bereits im Vorfeld der letzten Verhandlungsrunde war die biometrische Massenüberwachung ein Streitpunkt zwischen den Ver­hand­le­r:in­nen. Das eher bürgerrechtsfreundliche EU-Parlament stand dabei den Sicherheits- und Überwachungsinteressen der EU-Mitgliedstaaten gegenüber. Am Ende einigte man sich auf einen Kompromiss – der jedoch nun Makulatur zu sein scheint. Aufgeweicht sind demnach unter anderem die Regeln für eine nachträgliche biometrische Fernüberwachung. Das betrifft beispielsweise Situationen, in denen Behörden nachträglich die von Überwachungskameras aufgezeichneten Daten mit biometrischer Gesichtserkennungssoftware durchsuchen.

Das EU-Parlament hätte sie am liebsten ganz verboten. In den Verhandlungen mit Kommission und Rat einigte man sich auf einen Kompromiss. Doch in der Verschriftlichung scheinen die Einschränkungen – etwa die Beschränkung dieser Überwachungsform auf bestimmte schwere Straftatbestände, die in einer Liste konkretisiert waren – nun vom Tisch zu sein.

Richterliche Anordnung wäre nicht mehr nötig

Gegenüber netzpolitik.org sagte Ella Jakubowskas von der europäischen Bürgerrechtsorganisation EDRi, dass damit beispielsweise eine Überwachung von Frauen, die in EU-Staaten mit restriktiver Gesetzgebung eine Abtreibung vornehmen lassen, gerechtfertigt werden könnte.

In Deutschland würde damit die umstrittene Überwachung im Kontext mit dem G20-Gipfel in Hamburg im Jahr 2017 legal. Damals hatten die Ermittlungsbehörden noch lange nach den Protesten das Bildmaterial mit einer biometrischen Gesichtserkennungssoftware durchsucht. Auch ist nicht mehr vorgeschrieben, dass die Überwachung nur erlaubt ist, wenn ein:e Rich­te­r:in sie angeordnet hat. Nun soll es reichen, wenn eine Justiz- oder Verwaltungsbehörde die Überwachung absegnet.

Noch ist die schriftliche Fassung des AI Act nicht komplett, so fehlen etwa die Erwägungsgründe. Dennoch ist davon auszugehen, dass die nun festgehaltenen Befugnisse nicht wieder strenger gefasst werden. In den kommenden Wochen soll die finale Abstimmung über das Regelwerk anstehen.

Comments

[realnessuno]

Mehr Kontrolle, mehr Überwachung, sogar die Perversion "präventive Polizeiarbeit" wird schon diskutiert...

Soll das zu einer starken, resilienten Gesellschaft führen?

Ich denke das führt zu gefühlter Ohnmacht, keine Selbstwirksamkeit bei Individuen und zum großen Rechtsruck, weil Demagogen solche Dinge gut für sich ausschlachten.

Überwachung macht sowieso krank. Die Gesellschaft und die Einzelnen!