aussortiert: Der Algorithmus hat kein Gespür für soziale Kontexte
Die Hamburger Hochbahn will mit KI Gefahren erkennen. Eine gefährliche Entwicklung im öffentlichen Raum, denn soziale Ausgrenzung wird so zur technische Norm
Die Hamburger Hochbahn verspricht mehr Sicherheit, wenn sie an Bahnhöfen wie Barmbek, Baumwall und Berliner Tor eine „KI-gestützte Gefahrenerkennung“ pilotiert und jetzt von ersten Erfolgen berichtet. Die KI-Kameras hätten „erhebliche Vorteile gegenüber den Bestandskameras“, „das betriebliche Potenzial ist gegeben“. Nun soll es an den Landungsbrücken weitergehen.
Wer liegt regungslos auf dem Bahnsteig? Wer geht auf die Gleise? Die künstliche Intelligenz soll in der Leitstelle Alarm schlagen, noch bevor ein Mensch den Vorfall auf einem der vielen Monitore bemerkt. „Die Kameras sollen in der Videobildanalyse eine automatische Mustererkennung zur schnelleren Erkennung sicherheitskritischer Ereignisse ermöglichen“, so formuliert es die Hochbahn.
Aber was passiert hier mit dem öffentlichen Raum? Die Hochbahn ist bemüht, den Prozess als datenschutzkonform zu etikettieren. Aber gerade der Umstand, dass die Tests für Fahrgäste „von außen nicht wahrnehmbar“ waren, wie die Hochbahn schreibt, zeigt eine gefährliche Entwicklung im öffentlichen Raum.
Denn Datenschutz bedeutet ja viel mehr, als nur technische Standards einzuhalten. Er soll davor schützen, dass eine lückenlose Überwachung normalisiert wird. Denn wenn öffentliche Räume zu Testlaboren für automatisierte Verhaltensanalyse werden, dann verschiebt sich auch die Schwelle dessen, was wir als „normal“ empfinden.
Es trifft die eh ausgegrenzten Gruppen
Und hier liegt das eigentliche Problem: Wir verlassen die klassische, punktuelle Videoüberwachung mit all ihren Problemen und bewegen uns hin zur präventiven Verhaltensvorhersage. Denn die KI sucht nach „auffälligen Verhaltensmustern“. Und hier beginnt schon soziale Ausgrenzung: Was die Software als „auffällig“ markiert, deckt sich nämlich meist mit dem, was im städtischen Alltag ohnehin aus dem Blickfeld gedrängt wird: Menschen ohne festen Wohnsitz, Suchterkrankte, Jugendliche, die sich abweichend verhalten, oder die Armut, die sich in vermeintlich „herumlungernden“ Gruppen zeigt.
Aber ein Algorithmus kann nicht zwischen einer lebensbedrohlichen Situation und dem einfachen Bedürfnis eines Menschen unterscheiden, einen geschützten Ort zu haben. Wenn die KI nun automatisiert „Gedränge“ oder „liegende Menschen“ an die Leitstelle meldet, legt sich sozusagen ein technischer Filter über den Bahnhof, der soziale Präsenz zum Sicherheitsrisiko erklärt.
Und das ist eine Form der automatisierten Verdrängung: Wer nicht ins saubere Raster der KI-gestützten „Sicherheit“ passt, wird zum Objekt der Intervention durch die Hochbahn-Wache. Soziale Probleme werden nicht gelöst, sondern algorithmisch verwaltet und durch die Präsenz der Sicherheitskräfte aus dem Blickfeld des konsumierenden Publikums entfernt.
Ist das zumindest besser als klassische Überwachung? Immerhin prüft ja ein Mensch in der Leitstelle die Meldung. Doch der „Automation Bias“, also die menschliche Neigung, der Maschine dann doch blind zu vertrauen, kann dazu führen, dass eben genau jene Gruppen öfter kontrolliert werden, die das System als „Anomalie“ markiert. Dann wird die Kamera zum verlängerten Arm einer Politik, die den öffentlichen Raum zur kontrollierten Komfortzone für zahlende Fahrgäste umbaut.
Die Hochbahn betont, die KI müsse noch „eingearbeitet“ werden, damit sie Szenarien gewissenhaft erkennen kann. Aber ein Algorithmus hat kein Gespür für soziale Kontexte. So riskieren wir, dass unsere Bahnhöfe zu Räumen werden, in denen eine ständige algorithmische Kategorisierung regiert. Der Preis für eine gefühlte Sicherheit ist die algorithmische Vertreibung all jener, die nicht in die glatte Mobilitätswelt passen. Robert Matthies
50.000 Menschen beteiligen sich bei taz zahl ich – weil unabhängiger, kritischer Journalismus in diesen Zeiten gebraucht wird. Weil es die taz braucht. Dafür möchten wir uns herzlich bedanken! Ihre Solidarität sorgt dafür, dass taz.de für alle frei zugänglich bleibt. Denn wir verstehen Journalismus nicht nur als Ware, sondern als öffentliches Gut. Zahlen muss niemand, aber guter Journalismus hat seinen Preis. Und immer mehr Leser*innen machen mit und entscheiden sich für eine freiwillige Unterstützung der taz! Dieser Schub trägt uns gemeinsam in die Zukunft. Denn wir suchen wir auch weiterhin Ihre Unterstützung. Setzen auch Sie jetzt ein Zeichen für kritischen Journalismus und unterstützen Sie die taz – schon ab 5 Euro. Jetzt unterstützen
