EU-Pläne für Künstliche Intelligenz: KI soll nicht ausspähen

Menschliches Verhalten soll unangetastet bleiben, Massenüberwachung ausgeschlossen sein: Die Kommission hat ihren Gesetzesvorschlag zur KI vorgelegt.

Mensch und Maschine: Automatisierte Passkontrolle am Züricher Flughafen Foto: Keystone

Brüssel taz | Eine computergesteuerte Massenüberwachung wie in China soll es in Europa nicht geben. Gegen Chatbots und autonome Fahrzeuge wie in den USA hat Brüssel aber nichts einzuwenden. Im Gegenteil: Die EU will die Förderung der so genannten künstlichen Intelligenz (KI) ausweiten und alles tun, um die Akzeptanz dieser umstrittenen Technologie zu stärken.

Dies erklärte die für Digitales zuständige EU-Kommissarin Margrethe Vestager am Mittwoch in Brüssel. Die EU wolle Innovation nicht im Wege stehen, man müsse aber eingreifen, wenn „Sicherheit und Grundrechte der Bürger auf dem Spiel stehen“. Gefahr bestehe vor allem bei Massenüberwachung und Verhaltenssteuerung.

Die EU-Kommission will deshalb einige besonders umstrittene Anwendungen verbieten. Dazu zählen KI-Systeme, die menschliches Verhalten manipulieren, sowie Programme, die eine Bewertung sozialen Verhaltens („Social Scoring“) ermöglichen.

Biometrische Videoüberwachung an öffentlichen Orten soll grundsätzlich verboten werden, heißt es in der Vorlage, die noch vom Europaparlament und den 27 EU-Staaten diskutiert und gebilligt werden muss. Allerdings soll automatische Gesichtserkennung in „wenigen, eng definierten Ausnahmefällen“ erlaubt bleiben.

Mehr Transparenz bei Chatbots

Bei anderen Systemen mit „niedrigem“ Risiko wie Chatbots will Brüssel für mehr Transparenz sorgen. Den Nutzern sollte bewusst sein, dass sie es mit einer Maschine zu tun haben, heißt es in der EU-Kommission. Keine Probleme sieht die Behörde dagegen bei KI-gestützten Videospielen oder Spamfiltern für E-Mails.

Die Details sollen im weltweit ersten Rechtsrahmen für KI festgelegt werden. Die EU-Kommission hofft, damit ebenso Pionierarbeit zu leisten wie bei der Datenschutzgrundverordnung von 2018. Sie entwickelte sich in kurzer Zeit zu einem globalen Standard, an dem sich sogar Datenkraken wie Facebook oder Google ausrichten.

Allerdings sind die neuen Vorgaben aus Brüssel in sich widersprüchlich. So bleiben militärische Anwendungen der KI bei der Regulierung außen vor; für sie soll der neue Rechtsrahmen nicht gelten. Dies ist problematisch, da die KI-Technologie vom US-Militär entwickelt wurde – und da auch die neue EU-Verteidigungsunion auf „intelligente“ Kampfsysteme setzt.

KI als potenzieller Jobkiller

Die EU-Kommission hat auch keine Sozialfolgenabschätzung vorgenommen. Dabei gilt die KI als potenzieller Jobkiller; auch dieser Artikel könnte eines nicht allzu fernen Tages von einer Maschine geschrieben und redigiert werden. Bei der neuen Verordnung gehe es nicht um die sozialen und wirtschaftlichen Folgen, monierte ein namenlos bleiben wollender Experte auf Nachfrage.

Gleichzeitig will die EU-Kommission den Einsatz der KI massiv fördern – auch in der Wirtschaft. Es gehe um die Wettbewerbsfähigkeit, aber auch um den Aufschwung nach der Coronakrise, heißt es in Brüssel. Sogar der European Green Deal soll mithilfe von automatischer Sprachverarbeitung und maschinellem Lernen vorankommen. Wie das gehen soll, bleibt unklar.

Umso deutlicher spricht sich die Brüsseler Behörde für massive Förderung aus. Es gehe um die KI-Exzellenz „vom Labor bis zum Markt“ und den „Aufbau einer strategischen Führungsrolle in hochwirksamen Sektoren und Technologien“, heißt es an die Adresse der EU-Staaten und der Unternehmen.

Die Wirtschaft ist dennoch unzufrieden. Die Nutzung von KI in Maschinen sei kein Risiko, kritisiert der VDMA – und warnt vor Überregulierung. Mehr Biss fordern hingegen die Grünen. „Es ist ein Schlag ins Gesicht der Zivilgesellschaft, dass ein klares Verbot von Gesichtserkennung im öffentlichen Raum fehlt“, sagte die grüne Europaabgeordnete Alexandra Geese.

Comments

[tomás zerolo]

Von Waschen und Nassmachen. Ausspähen soll sie nicht, die "AI" [1]. Jobs vernichten auch nicht.

Aber Geld verdienen soll man damit können.

Was, wenn sich ganz speziell mit den zwei o.g. Anwendungen von "AI" Geld verdienen lässt?

[1] "AI" in Anführungsstrichen, weil es lediglich ein Marketingbegriff ist, ohne wirklicher wissenschaftlicher Relevanz. So wie Blockchain oder Wirecard.

[Samson]

Natürlich können Menschen mit KI andere Menschen überwachen, manipulieren und Unfälle auf Autobahnen produzieren. Genau wie mit Strom. Nur ein Gesetzesentwurf für harmonisierte Regeln zum Umgang mit Strom wäre vielleicht etwas unscharf.

Der Entwurf ist zu breit um alle Themen angemessen zu behandeln. Autonomes Fahren als Beispiel wird die Anzahl von Verkehrsopfern massiv senken, spätestens wenn die Akzeptanz steigt weil keiner mehr Lust hat in einen Führerschein zu investieren. Beweisen dass autonomes Fahren sicher ist, so wie es scheinbar der Entwurf gerne hätte, ist wie für menschliche Fahrende unmöglich. Hier will der Entwurf eine Hoffnung in eine Regel gießen die das Ziel, weniger Verkehrstote, hinauszögern könnte.

Social Scoring verbieten um nicht in eine sich selbst-zensierende Gesellschaft zu taumeln? Prima. Aber was sollen denn „Praktiken“ sein „die das Potential haben Personen zu manipulieren“? Spielzeug und Süßes vor der Kasse ist manipulativ. Menschen für Versicherungen oder Anlageprodukte in Kategorien zu sortieren ist manipulativ. Amazon-Produktempfehlungen und Facebook Posts in der Filterblase sind manipulativ. All diese Punkte könnten sinnvoll diskutiert, geregelt und verbessert werden, unabhängig von dem Einsatz von KI.

„KI“ hat das Potential, wie die industrielle Revolution, die Gesellschaft zu verändern ohne dass dieses Mal Menschen zu monotonen Arbeiten am Fließband gezwungen werden. KI kann sie vom Fließband abholen um ihr Leben näher an ihrem Ideal zu entfalten, mit angemessener gesellschaftlicher Unterstützung. Aber so ein breiter Entwurf will alles und kann darum nichts richtig.

Svenja Bergt hat einen Artikel mit sehr viel Fachwissen und Tiefe zum Thema KI geschrieben. Ein Kritikpunkt von mir wäre, dieser Artikel scheint mir ein wenig zu Kulturpessimistisch. KI entwickelt vom US-Militär? Bezieht sich das auf Alan Turing? Die Glühbirne kommt ja auch von so einem Amerikaner. Das wird sicher ein ziemlicher Jobkiller für Laternenanzünder.