Technologieexperte über Diskriminierung: „Effizienz ist längst nicht alles“

Auch auf den ersten Blick wertfreie Technologie kann diskriminieren. Ein Interview mit Ben Green, der glaubt, Städte sollten nicht zu smart werden.

Toronto: Aus dem Viertel Port Lands will die Firma Alphabet Inc. ein High-Tech-Stadtgebiet machen   Foto: Mark Blinch

Die Städte der Welt wachsen und mit ihnen der Markt für neue Technologien. Tech-Giganten wie Googles Mutterkonzern Alphabet basteln an ihrer Vision der Stadt von morgen, US-amerikanische Kommunen werden mit den Angeboten neuer Tech-Lösungen überschwemmt. Sie sollen das Stadtleben effizienter machen – von der Müllentsorgung bis zur Verbrechensbekämpfung. Ben Green beschreibt in seinem Buch „The Smart Enough City“, warum gesellschaftliche Probleme zuerst politische Lösungen brauchen und inwiefern neue Technologien den strukturellen Rassismus und die Ungleichheit in den USA verstärken können.

taz.am wochenende: Herr Green, was kann Städte für sie persönlich lebenswerter machen? Wie sieht ihre Stadt der Zukunft aus?

Ben Green: Die Problemlösung in Städten beginnt auf jeden Fall nicht mit Technologien. Gerade jetzt, in Zeiten der Coronakrise, sehen wir hier in den USA, wie verhärtete Ungleichheiten in den Städten zutage treten. Besonders in New York, wo ich lebe, gibt es diese krasse Segregation. Viertel, in denen mehrheitlich schwarze Menschen und People of Color leben, sind viel stärker vom Virus betroffen als vornehmlich weiße Viertel. Im Prinzip benötigen wir in den Vereinigten Staaten breite soziale Reformen.

Sidewalk Labs, eine Tochter des Google-Konzerns Alphabet, wollte in einem Torontoer Hafenviertel eine technologisch aufgerüstete Smart City bauen. Anfang Mai zog sich das Unternehmen aus den Planungen zurück. Was ist da schiefgelaufen?

Das Projekt wurde von Beginn an undemokratisch aufgezogen. Die BewohnerInnen Torontos wurden nicht danach gefragt, wie sie sich ein solches Viertel vorstellen. Im Juni 2019 veröffentlichte Sidewalk Labs außerdem einen Plan, der zeigte, dass sie viel mehr Fläche als ursprünglich angekündigt entwickeln wollten. Damit hätte das Unternehmen noch weiter in die Stadt ausgegriffen. Ich war als Experte in einem Rechtsstreit, der sich dazu anbahnte, eingeladen, meine Einschätzung zu Fragen der Privatsphäre des Projekts abzugeben. Bei der Datensammlung wurde Sidewalk Labs sehr übergriffig, es gab keinerlei Garantien, dass die Daten der Menschen geschützt sein würden.

Die Rede war von Bürgersteigen, die im Winter den Schnee automatisch wegschmelzen, von Lieferrobotern und vielem mehr. Für technikbegeisterte Menschen klingt das ja erst einmal interessant.

Tech-Unternehmen sind gut darin geworden, ihre Angebote als menschenzentriert anzupreisen. Dadurch verschleiern sie aber auch Probleme der Privatsphäre oder wer in der Stadt eigentlich Entscheidungen trifft, wer welche Autorität hat. Sie verkaufen eine Vision der Stadt, die es den BewohnerInnen als KonsumentInnen so bequem wie möglich machen soll, und dringen in Herrschaftsfragen der öffentlichen Ordnung ein. Das alles greift sehr viel tiefer als energieeffiziente Straßenbeleuchtung oder innovative Müllentsorgung.

Ben Green

promoviert in angewandter Mathematik an der Harvard School of Applied Sciences and Engineering. Er wurde 1992 in Boston geboren und ist ein Research Fellow am AI Now Institute in New York.

Das Buch: Ben Green: „The Smart Enough City. Putting Technology in Its Place to Reclaim Our Urban Future“. The MIT Press, Cambridge 2019, 240 Seiten, 14,99 Euro

In Ihrem Buch „The Smart Enough City“ beschreiben Sie, dass Tech-Unternehmen oft einen verzerrten Blick auf die Realität haben, weil sie alles durch die Technologiebrille sehen. Sind Sie ein Technologiepessimist?

Ich bin ein Technologierealist und frage mich, wie die Gesellschaft eine agnostische Haltung gegenüber neuen Technologien entwickeln kann. Besonders, wenn es um sozialpolitische Fragestellungen geht. TechnologInnen bekommen in ihrer Ausbildung vermittelt, die Welt bestünde nur aus einer Reihe technologischer Probleme, die allein mithilfe neuer Technologien zu lösen sind. Wenn Städte weiterentwickelt werden sollen, darf Technologie aber nicht die Hauptrolle spielen.

Hat ein solch technologiebezogenes Denken schon etwas Ideologisches?

So weit würde ich nicht gehen. Allerdings handelt es sich um eine Spielart des Neoliberalismus. Smart Citys, wie sie heute angedacht werden, gäbe es nicht ohne die Zerwürfnisse der Finanzkrise von 2008. Die Unternehmen verkaufen ihre Datenlösungen und Technologien als budgetschonend, effizient, sie locken die Städte mit der Aussicht, dass sie mit weniger Personal und weniger Kosten viel mehr erreichen können. Wenn Diskurse, die sich eigentlich um Werte drehen und darum, wie Politik gemacht werden soll, in Diskurse über Technologie gedreht werden, findet eine Entpolitisierung statt.

Wo zeigt sich das aus Ihrer Sicht besonders drastisch in den USA?

Im Justizsystem und in der Polizeiarbeit. Diskriminierung, Polizeibrutalität und überfüllte Gefängnisse werden zum Teil damit legitimiert, dass mittlerweile angeblich objektive algorithmische Lösungen zum Einsatz kommen. Predictive Policing ist nur ein Beispiel. Weil das Machine Learning hier mit Daten aus der Vergangenheit arbeitet, sagen Algorithmen nicht präzise voraus, wo Verbrechen stattfinden, sondern wo sie wahrscheinlich ermittelt werden. Daraus folgt, dass das Kriminalitätspotenzial in Gegenden, in denen vermehrt Minderheiten leben, überschätzt wird. In vornehmlich weißen Gegenden wird es hingegen unterschätzt. Die Zielsetzungen der Technologie sind hier von vornherein diskriminierend grundiert. Das lenkt davon ab, dass die Polizeiarbeit reformiert werden müsste und dass die Polizei den Menschen helfen sollte, anstatt sie zu bestrafen.

Städtische Verwaltungen müssen also besonders hellhörig werden, wenn Tech-Unternehmen wertfreie Technologien anpreisen?

Absolut! Außerdem werden Städte in den USA regelrecht mit Angeboten von Tech-Unternehmen überflutet. In Gesprächen, die ich zu meinem Buch führte, erzählten mir städtische MitarbeiterInnen, wie genervt und gelangweilt sie sind von Meetings mit VerkäuferInnen aus der Tech-Branche, die ihnen ein paar Sensoren oder eine tolle App verkaufen wollen. Viele Angebote sind oft einfach nur nutzlos.

Wie können städtische Regierungen denn sinnvolle technologische Innovationen demokratisch abgesichert zulassen, anstatt auf vermeintlich einfache Lösungen zu setzen, von denen nur die Unternehmen profitieren?

Die Städte brauchen Personal, das im Umgang mit Daten und neuen Technologien ausgebildet ist. Diese Leute verstehen, welche technologischen Lösungen hilfreich und welche schädlich sind, und können Verwaltungen dafür sensibilisieren. Am besten vernetzen sie sich auch untereinander. Das funktioniert in den USA ganz gut. Außerdem gibt es in einigen Kommunen Regeln, wie neue Technologien eingeführt werden. Meistens müssen dazu öffentliche Anhörungen abgehalten werden, und die Stadträte entscheiden am Ende darüber. Das ist besonders wichtig, wenn es zum Beispiel um irgendwelche Überwachungstechnologien geht. Natürlich reichen solche Mechanismen nicht aus, sie sind aber ein guter Anfang.

Gute Anfänge haben Sie für Ihr Buch auch in Johnson County, Kansas ausfindig gemacht. Dort gibt es ein Projekt, das vorbestrafte, psychisch kranke Menschen davor schützen soll, wieder ins Gefängnis zu kommen, auch mithilfe von Berechnungen durch Algorithmen.

Johnson County ist ein gutes Beispiel, wie man datenverarbeitende Technologien einbinden kann. Allerdings beschäftigt man sich dort schon seit geraumer Zeit damit, wie die Rolle der Polizei neu definiert werden soll und welche Angebote den Gemeinden weiterhelfen. Über zwanzig Jahre hinweg wurde dort ein Datenmanagementsystem entwickelt, das Informationen aus allen möglichen sozialen Diensten zusammenträgt. Neue Technologien kommen nicht aus dem Nichts, sie müssen auf etwas aufbauen, auf institutionellen Kompetenzen und Strukturen.

Das bedeutet auch, dass „smart enoughe“ Städte ganz genau wissen müssen, wo sie eventuell Bedarf haben für neue Technologien, die unterstützend eingesetzt werden können?

Städte müssen sich völlig im Klaren sein über ihre Grundprinzipien und Ziele, wenn Technologie zum Einsatz kommen soll, ja.

Ihr Buch liest sich an manchen Stellen wie ein Lob der Ineffizienz. Würden Sie das so stehen lassen?

Ich würde sagen, dass es viele Werte gibt, die vom Streben nach Effizienz unterlaufen werden. Ineffizienz an sich ist nichts Gutes. Ich beziehe mich aber auf ein paar Ideen zu dem Konzept sinnvoller Ineffizienz. Darunter fällt zum Beispiel demokratische Meinungsbildung im Diskurs. Die ist sinnvoll und wichtig. Aus der engstirnigen Sicht von Akteuren aber, die alles möglichst schnell erledigen wollen, ist das natürlich ein eher träger Prozess.

Comments

[mowgli]

Wenn die Angebote der Tech-Firmen „einfach nur nutzlos“ wären, wäre das noch kein all zu großes Problem. Leider schaden sie mitunter auch. Weil sie Prozesse, die ohnehin nicht sonderlich effizient organisiert sind, unnötig unterbrechen und mitunter ganz zum Erliegen bringen. Es kann sehr lange dauern, bis eine Verwaltung mit 1.000 und mehr Mitarbeitenden ein neues System installiert hat, das angeblich alles leichter macht. Bis da hin funktioniert oft erst mal gar nichts mehr. Der Schaden wird allerdings nie evaluiert.

Es sind nicht nur langweilige, nervige Meetings mit VerkäuferInnen aus der Tech-Branche, die Betroffene ärgern. Es ist der Umstand, dass ihnen Zeit gestohlen wird, die sie dringend für ihre Arbeit bräuchten. Vor allem aber stört es sie, dass über ihre Köpfe hinweg entschieden wird. Von Leuten, die nicht wissen, was sie tun. Weil sie zwar was von Technik verstehen, aber nichts von den Prozessen, die damit angeblich Effektivität werden können.

Den meisten Städten fehlt es gar nicht an „Personal, das im Umgang mit Daten und neuen Technologien ausgebildet ist. Es fehlt an Leuten, die verstehen WOLLEN, welche technologischen Lösungen hilfreich und welche schädlich sind, und können Verwaltungen dafür sensibilisieren.

Städte müssen sich völlig im Klaren sein über ihre Grundprinzipien und Ziele, wenn Technologie zum Einsatz kommen soll, ja.