Amazon beendet Kooperation: Polizei vorläufig ohne Amazon
Amazon erlaubt der US-Polizei nicht mehr, eine Software zur Gesichtserkennung zu verwenden. Lukrativ aber war der Geschäftszweig eh nicht.
Auf dem Prüfstand: Gesichtserkennungssoftware bei der Polizeiarbeit Foto: Carline Jean/ZUMA/imago images
„Rekognition“ heißt der Amazon-Dienst zur Identifizierung von Personen in Echtzeit. Die umstrittene Technologie wurde bislang lokalen Police Departments in den USA preisgünstig angeboten. Diese Verbindung wurde von Bürgerrechtsorganisationen und Spezialist*innen für künstliche Intelligenz schon lange kritisiert – und wird nun ausgesetzt.
Das Unternehmen erklärt, man warte auf staatliche Regulierung, um die diskriminierende Anwendung der Software zu verhindern.
Auch die anderen großen Technologiekonzerne von Microsoft bis Google, die in den vergangenen Jahren praktisch sämtliche Start-ups im Bereich der Gesichtserkennung aufgekauft haben, beklagen den Mangel an verbindlichen Regeln. Mehrere Kommunen in den USA haben diese Regulierungslücke bereits gefüllt – mit einem generellen Verbot der Anwendung der Technik.
Neben dem generell schwierigen Verhältnis einer Kameraüberwachung mit Gesichtserkennung im öffentlichen Raum zum Datenschutz gibt es noch weitere Probleme. Mittels Testreihen wurde nachgewiesen, dass die Software, ohnehin mit dem Problem fehlerhafter Identifikationen behaftet, eine extrem hohe Zahl an solchen false positives produziert, sobald die Testpersonen keine weißen Männer sind.
Kein lukrativer Geschäftszweig
Der so entstehende höhere Ermittlungsdruck gegen ethnische Minoritäten gehört zu den wichtigsten Kritikpunkten, die unter anderem die Black-Lives-Matter-Bewegung äußerte.
Amazons nun angekündigtes Moratorium wirkt in der angespannten politischen Situation vielleicht etwas opportunistisch, kommt aber in derselben Woche, in der IBM ankündigte, die Entwicklung der Gesichtserkennung ganz einzustellen. Zur Begründung wurde ebenfalls mangelnde Regulierung und das hohe Diskriminierungspotenzial angeführt.
Die ganze Geschichte ist das aber nicht. IBM und Amazon nennen zwar keine ökonomischen Details der Entscheidungsfindung. Nach übereinstimmenden Medienberichten ist die Gesichtserkennung für beide aber kein besonders lukrativer Geschäftszweig.
Und Amazon hält sich ja alle Türen offen. Zur Kooperation mit der Einwanderungsbehörde ICE verlautbarte Amazon nichts. Dort ist ein Racial Bias mutmaßlich kein Problem, sondern wohl eher Grundvoraussetzung für die Funktionalität der Technologie.
