EU-Pläne für Künstliche Intelligenz: KI soll nicht ausspähen

Menschliches Verhalten soll unangetastet bleiben, Massenüberwachung ausgeschlossen sein: Die Kommission hat ihren Gesetzesvorschlag zur KI vorgelegt.

Mensch und Maschine: Automatisierte Passkontrolle am Züricher Flughafen   Foto: Keystone

BRÜSSEL taz | Eine computergesteuerte Massenüberwachung wie in China soll es in Europa nicht geben. Gegen Chatbots und autonome Fahrzeuge wie in den USA hat Brüssel aber nichts einzuwenden. Im Gegenteil: Die EU will die Förderung der so genannten künstlichen Intelligenz (KI) ausweiten und alles tun, um die Akzeptanz dieser umstrittenen Technologie zu stärken.

Den Nutzern sollte bewusst sein, dass sie es mit einer Maschine zu tun haben

Dies erklärte die für Digitales zuständige EU-Kommissarin Margrethe Vestager am Mittwoch in Brüssel. Die EU wolle Innovation nicht im Wege stehen, man müsse aber eingreifen, wenn „Sicherheit und Grundrechte der Bürger auf dem Spiel stehen“. Gefahr bestehe vor allem bei Massenüberwachung und Verhaltenssteuerung.

Die EU-Kommission will deshalb einige besonders umstrittene Anwendungen verbieten. Dazu zählen KI-Systeme, die menschliches Verhalten manipulieren, sowie Programme, die eine Bewertung sozialen Verhaltens („Social Scoring“) ermöglichen.

Biometrische Videoüberwachung an öffentlichen Orten soll grundsätzlich verboten werden, heißt es in der Vorlage, die noch vom Europaparlament und den 27 EU-Staaten diskutiert und gebilligt werden muss. Allerdings soll automatische Gesichtserkennung in „wenigen, eng definierten Ausnahmefällen“ erlaubt bleiben.

Mehr Transparenz bei Chatbots

Bei anderen Systemen mit „niedrigem“ Risiko wie Chatbots will Brüssel für mehr Transparenz sorgen. Den Nutzern sollte bewusst sein, dass sie es mit einer Maschine zu tun haben, heißt es in der EU-Kommission. Keine Probleme sieht die Behörde dagegen bei KI-gestützten Videospielen oder Spamfiltern für E-Mails.

Die Details sollen im weltweit ersten Rechtsrahmen für KI festgelegt werden. Die EU-Kommission hofft, damit ebenso Pionierarbeit zu leisten wie bei der Datenschutzgrundverordnung von 2018. Sie entwickelte sich in kurzer Zeit zu einem globalen Standard, an dem sich sogar Datenkraken wie Facebook oder Google ausrichten.

Allerdings sind die neuen Vorgaben aus Brüssel in sich widersprüchlich. So bleiben militärische Anwendungen der KI bei der Regulierung außen vor; für sie soll der neue Rechtsrahmen nicht gelten. Dies ist problematisch, da die KI-Technologie vom US-Militär entwickelt wurde – und da auch die neue EU-Verteidigungsunion auf „intelligente“ Kampfsysteme setzt.

KI als potenzieller Jobkiller

Die EU-Kommission hat auch keine Sozialfolgenabschätzung vorgenommen. Dabei gilt die KI als potenzieller Jobkiller; auch dieser Artikel könnte eines nicht allzu fernen Tages von einer Maschine geschrieben und redigiert werden. Bei der neuen Verordnung gehe es nicht um die sozialen und wirtschaftlichen Folgen, monierte ein namenlos bleiben wollender Experte auf Nachfrage.

Gleichzeitig will die EU-Kommission den Einsatz der KI massiv fördern – auch in der Wirtschaft. Es gehe um die Wettbewerbsfähigkeit, aber auch um den Aufschwung nach der Coronakrise, heißt es in Brüssel. Sogar der European Green Deal soll mithilfe von automatischer Sprachverarbeitung und maschinellem Lernen vorankommen. Wie das gehen soll, bleibt unklar.

Umso deutlicher spricht sich die Brüsseler Behörde für massive Förderung aus. Es gehe um die KI-Exzellenz „vom Labor bis zum Markt“ und den „Aufbau einer strategischen Führungsrolle in hochwirksamen Sektoren und Technologien“, heißt es an die Adresse der EU-Staaten und der Unternehmen.

Die Wirtschaft ist dennoch unzufrieden. Die Nutzung von KI in Maschinen sei kein Risiko, kritisiert der VDMA – und warnt vor Überregulierung. Mehr Biss fordern hingegen die Grünen. „Es ist ein Schlag ins Gesicht der Zivilgesellschaft, dass ein klares Verbot von Gesichtserkennung im öffentlichen Raum fehlt“, sagte die grüne Europaabgeordnete Alexandra Geese.