Amazon beendet Kooperation: Polizei vorläufig ohne Amazon

Amazon erlaubt der US-Polizei nicht mehr, eine Software zur Gesichts­erkennung zu verwenden. Lukrativ aber war der Geschäftszweig eh nicht.

Eine Frau vor mehreren Monitoren

Auf dem Prüfstand: Gesichtserkennungssoftware bei der Polizeiarbeit Foto: Carline Jean/ZUMA/imago images

„Rekognition“ heißt der Amazon-Dienst zur Identifizierung von Personen in Echtzeit. Die umstrittene Technologie wurde bislang lokalen Police Departments in den USA preisgünstig angeboten. Diese Verbindung wurde von Bürgerrechtsorganisationen und Spezialist*innen für künstliche Intelligenz schon lange kritisiert – und wird nun ausgesetzt.

Das Unternehmen erklärt, man warte auf staatliche Regulierung, um die diskriminierende Anwendung der Software zu verhindern.

Auch die anderen großen Technologiekonzerne von Microsoft bis Google, die in den vergangenen Jahren praktisch sämtliche Start-ups im Bereich der Gesichtserkennung aufgekauft haben, beklagen den Mangel an verbindlichen Regeln. Mehrere Kommunen in den USA haben diese Regulierungslücke bereits gefüllt – mit einem generellen Verbot der Anwendung der Technik.

Neben dem generell schwierigen Verhältnis einer Kameraüberwachung mit Gesichtserkennung im öffentlichen Raum zum Datenschutz gibt es noch weitere Probleme. Mittels Test­reihen wurde nachgewiesen, dass die Software, ohnehin mit dem Problem fehlerhafter Identifikationen behaftet, eine ex­trem hohe Zahl an solchen false positives produziert, sobald die Testpersonen keine weißen Männer sind.

Kein lukrativer Geschäftszweig

Der so entstehende höhere Ermittlungsdruck gegen ethnische Minoritäten gehört zu den wichtigsten Kritikpunkten, die unter anderem die Black-Lives-Matter-Bewegung äußerte.

Amazons nun angekündigtes Moratorium wirkt in der angespannten politischen Situation vielleicht etwas opportunistisch, kommt aber in derselben Woche, in der IBM ankündigte, die Entwicklung der Gesichtserkennung ganz einzustellen. Zur Begründung wurde ebenfalls mangelnde Regulierung und das hohe Diskriminierungspotenzial angeführt.

Die ganze Geschichte ist das aber nicht. IBM und Amazon nennen zwar keine ökonomischen Details der Entscheidungsfindung. Nach übereinstimmenden Medienberichten ist die Gesichtserkennung für beide aber kein besonders lukrativer Geschäftszweig.

Und Amazon hält sich ja alle Türen offen. Zur Kooperation mit der Einwanderungs­behörde ICE verlautbarte Amazon nichts. Dort ist ein ­Racial Bias mutmaßlich kein Pro­blem, sondern wohl eher Grundvoraussetzung für die Funktionalität der ­Technologie.

Einmal zahlen
.

Fehler im Text entdeckt? Wir freuen uns über einen Hinweis!

Bitte registrieren Sie sich und halten Sie sich an unsere Netiquette.

Haben Sie Probleme beim Kommentieren oder Registrieren?

Dann mailen Sie uns bitte an kommune@taz.de