die gesellschaftskritik: Rassistische Roboter
Schwarze Menschen und People of Color laufen eher Gefahr, von selbstfahrenden Autos übersehen zu werden. Schuld am blinden Fleck der Maschinenaugen ist natürlich der Mensch
Ein tödlicher Verkehrsunfall in Arizona machte im März 2018 nachdenklich: Beim nächtlichen Überqueren einer Landstraße wurde eine 49-Jährige von einem Fahrzeug der Firma Uber überrollt. Am Steuer bei der Probefahrt: niemand. Nur eine Testpassagierin war im Wagen – die konnte die Karambolage aber nicht verhindern. Hersteller autonomer Vehikel tüfteln seither daran, dass Fußgänger*innen zuverlässig identifiziert werden.
Wie eine Studie des Georgia Institute of Technology jetzt aber zeigt, sieht die entsprechende Erkennungssoftware darüber hinaus bei weißen Passanten genauer hin als bei anderen. So heißt es darin, die künstliche Intelligenz funktioniere schlechter bei Hauttönen von 4 bis 6 auf der Fitzpatrick-Skala, die in der Dermatologie über die Sonnenempfindlichkeit Auskunft gibt. Der Guardian schreibt von „Rassismus der Technologie“.
Tatsächlich wird eine Person mit hellerer Haut laut dieser Studie mit 10 Prozent höherer Wahrscheinlichkeit als Grund zum Bremsen erkannt. Bedenklich ist das vor allem, weil es nicht der erste Fall von rassistischen Algorithmen ist. In seiner Anfangsphase verwechselte Google Reverse Image Search (man lädt ein Bild hoch und erhält ähnliche Ergebnisse) schwarze Menschen mit Gorillas.
Wenn künstliche Intelligenz diskriminiert, liegt das an ihren menschlichen Lehrer*innen. Maschinengehirne werden mit Datensets gefüttert und trainieren so das Erkennen. Sind diese Sets unausgewogen zusammengestellt, eignet sich auch der Algorithmus eine Schieflage an. „Coded gaze“ nennt das Joy Buolamwini, „progammierter Blick“. Die MIT-Wissenschaftlerin war davon genervt, dass die Erkennungssoftware ihr Gesicht nur erkannte, wenn sie es mit einer weißen Maske überdeckte.
Ein Problem unbalancierter Datensätze: Mit ihnen werde ein weißer Mann von einer Gesichtserkennung zu 99 Prozent erkannt, eine nichtweiße Frau aber nur zu 65 Prozent, weil in den Trainingsdaten zu viele weiße Männer vorkommen. Das ist diskriminierend und gefährlich: Was vor dem Bildschirm ärgert, kann auf der Straße Leben kosten. Finn Holitzka
Der drohende Erfolg der AfD bei den kommenden Landtagswahlen zeigt, wie stark rechtsextreme Kräfte inzwischen geworden sind. Gerade jetzt braucht es Zusammenhalt und Solidarität. Auch und vor allem mit den Menschen, die sich vor Ort für eine starke Zivilgesellschaft einsetzen. Die taz kooperiert deshalb mit "Alles beginnt im Zentrum". Die Kampagne unterstützt bundesweit linke, selbstverwaltete Orte und baut einen solidarischen Fonds für deren Schutz und Erhalt auf. Eine offene Gesellschaft braucht guten, frei zugänglichen Journalismus – und zivilgesellschaftliches Engagement. Finden Sie auch? Dann machen Sie mit und unterstützen Sie unsere Aktion. Jetzt unterstützen
