Die Macht der Algorithmen: Heiko Maas will das Internet bändigen
Algorithmen beeinflussen Menschen im Netz. Der Justizminister will diesen Einfluss per Gesetz einschränken. Sein Nutzen ist umstritten.
Heiko Maas hat eine Mission: Der Bundesjustizminister will das Internet unter Kontrolle bringen, in dem Algorithmen regieren und Fake News gedeihen. Den Anfang machte er mit dem Netzwerkdurchsetzungsgesetz. Nun nimmt der Minister sich der Algorithmen an. Am vergangenen Montag erklärte Maas in einer Rede auf einer Konferenz zu digitalem Leben, wie er diese komplexen Systeme in den Griff bekommen will. Was genau schlägt Maas vor – und ist das sinnvoll?
Ob wir den Job bekommen oder nicht, wie viel unser Flugticket kostet oder ob wir als kreditwürdig gelten, darüber entscheidet in Zukunft vielleicht nur noch ein Algorithmus. Diskriminierung ist dabei nicht ausgeschlossen. In den USA beispielsweise fallen die automatisiert erstellten Strafrückfälligkeitsprognosen für Schwarze oft negativer aus als für Weiße – fälschlicherweise, wie eine Recherche des Non-Profit-Projekts Pro Publica zeigte. Maas schlägt deswegen ein „digitales Antidiskriminierungsgesetz“ vor, ergänzend zum bereits geltenden Allgemeinen Gleichbehandlungsgesetz (AGG).
Man sollte doch annehmen, dass das existierende AGG immer dann greift, wenn ein Mensch diskriminiert wird; sei das nun in der analogen oder in der digitalen Welt. Wer eine verbotene Waffe im Netz kauft, macht sich ja auch genauso strafbar, wie wenn er sie in einem dunklen Hinterhof persönlich in Empfang nimmt.
„Der eigentlich wichtige Schritt wäre, das AGG entsprechend zu erweitern“, sagt Lena Ulbricht vom Wissenschaftszentrum Berlin (WZB). Forderungen dazu gebe es schon länger. „Das Antidiskriminierunsgegesetz ist relativ eingeschränkt und fokussiert vor allem auf den Arbeitsmarkt“, sagt Ulbricht. Diskriminierung auf Plattformen etwa werde bisher ebenso wenig erfasst wie die Bewertung von Kaufkraft. „Das ist aber ein unheimlich politisiertes Thema und würde ein großes Reformunterfangen bedeuten“, sagt Ulbricht. „Der Vorschlag eines ergänzenden Gesetzes ist da natürlich weniger brisant.“
Rückschluss auf Gemütszustand durch Instagram
Entscheidungen, die nur auf Basis automatisierter Auswertung personenbezogener Daten fallen und für den Betroffenen eine rechtliche Folge nach sich ziehen oder ihn erheblich beeinträchtigen, sind in Deutschland laut Bundesdatenschutzgesetz ohnehin reglementiert.
„Wir wissen zwar, dass im Internet unzählige persönliche Daten transportiert werden, dass man sie vernetzen und auswerten kann, aber die Einzelheiten bleiben oft völlig unsichtbar“, sagte Maas laut offiziellem Redemanuskript. Wer wisse denn schon, welche Daten das eigene Smartphone täglich mit wem austausche und dass Fotos auf Instagram zur Kalkulation unseres Gemütszustands ausgewertet werden könnten?
„Echokammern“ und „Filter-Blasen“ sorgen dafür, „dass wir oftmals nur noch auf Positionen treffen, die uns in der eigenen Meinung bestärken“. Maas hat einen Vorschlag, um diesem Problem beizukommen: ein Transparenzgebot für Algorithmen. Nutzerinnen und Nutzer sollten selbst einschätzen können, ob das Netz versuche, sie zu beeinflussen – um dann entscheiden zu können, welche Filter und Personalisierungen sie akzeptieren wollen und welche nicht.
Doch selbst wenn ein Unternehmen wie Google seinen Algorithmus offenlegen würde: Die allermeisten Verbraucher könnten damit nur wenig anfangen. Und das dürfe man auch nicht von ihnen erwarten, sagt Matthias Spielkamp von Algorithm Watch. Zwar fordert die Initiative selbst, dass Prozesse algorithmischer Entscheidungsfindung (ADM) nachvollziehbar sein müssen – aber nicht unbedingt für den Einzelnen. „Wenn ich mir die Inhaltsstoffe eines Medikaments ansehe, verstehe ich ja auch kein Wort“, sagt Spielkamp. „Ich muss mich doch darauf verlassen können, dass eine Zulassungsstelle geprüft hat, dass ich nicht sterbe, wenn ich ein Medikament nehme.“
Forderung nach Digital-Agentur
Hätten die Unternehmen mit der Offenlegung von im Zweifel unverständlichem Code ihre Schuldigkeit getan, wäre niemandem geholfen. Auch mit Blick auf die Wettbewerbsfähigkeit und das Betriebsgeheimnis der Unternehmen sei es der falsche Weg, diese pauschal zur Veröffentlichung ihrer Algorithmen zu zwingen.
Die nächste Regierung solle eine „Digital-Agentur“ gründen, schlägt Maas vor. Die Frage, was genau diese tun und können soll, beantwortet er im Detail aber nicht. Spiegel Online hatte vorab berichtet, sie solle die „behördliche Kontrolle“ übernehmen, „um die Funktionsweise, Grundlagen und Folgen von Algorithmen überprüfen zu können“. Im tatsächlichen Redemanuskript ist aber lediglich die Rede davon, „im Austausch mit Wissenschaft, Wirtschaft und Verbrauchern mehr Expertise zu erlangen.“ Allerdings mahnt er „Rechtsdurchsetzung, Aufsicht und die Kontrolle von Transparenz“ an.
Mit der Forderung nach mehr Expertise macht Maas einen wichtigen Punkt. Eine Studie der Bertelsmannstiftung kam im Juni dieses Jahres zu dem Schluss, dass es sinnvoll wäre, die externe Evaluation von ADM-Systemen zu fördern. Aktuell sei es sehr schwierig, die Funktionsweise der Algorithmen zu analysieren und extern zu kontrollieren. In der Studie heißt es, „der Zugriff auf dafür notwendige Daten, die den Betreibern selbst in gewaltiger Zahl vorliegen“, sei für externe Wissenschaftler oder Regulierungsbehörden „mühselig bis unmöglich“.
Ein groß angelegtes Forschungsprojekt zur Funktionsweise und vor allem zu den Auswirkungen von Algorithmen wäre also durchaus angebracht – eine Digital-Agentur braucht es dafür aber nicht. Und statt dem Justizminister wäre wohl eher das Bundesministerium für Wissenschaft und Forschung zuständig.
Zu wenig Grundlagenforschung
Bisher mangele es an Grundlagenforschung, sagt Spielkamp von Algorithm Watch. Die Vorwürfe der Diskriminierung oder des Missbrauchs beruhten bisher fast ausschließlich auf Indizien. „Bevor man anfängt, Dinge zu regulieren, braucht man doch erst mal eine belastbare Datenbasis“, sagt Spielkamp.
Algorithm Watch selbst startete am Donnerstag mit sechs Landesmedienanstalten ein Projekt zu Googles Umgang mit der Bundestagswahl: Nutzer sollen ein Plugin für ihren Browser installieren. Dieses sucht dann alle vier Stunden auf Google nach einer festen Liste von etwa 15 Partei- und Politikernamen.
Algorithm Watch erhofft sich, durch die so erhobenen Daten etwas über die automatisierte Sortierung und Gewichtung der Ergebnisse durch Google zu erfahren. Zugriff auf die internen Daten des Unternehmens braucht es dafür nicht unbedingt. „Staatliche Regulierung sollte immer die Ultima Ratio sein“, sagt Spielkamp.
Der erste Schritt sei es, viel mehr solcher Projekte anzustoßen. „Zur Freigabe der Daten können wir Unternehmen immer noch zwingen, wenn wir merken, dass wir sonst nicht weiterkommen.“
Sicherheitslücken
Sei es Wannacry oder Ransomware: Cyberattacken funktionieren, weil Systeme Sicherheitslücken aufweisen. Die Risiken sind dem Durchschnittsverbraucher oft nicht bewusst. „Deshalb ist es nicht fair, wenn die Folgen solcher Sicherheitslücken einseitig auf den Verbraucher abgewälzt werden“, so Maas. Auch um „europaweit geltende Vorschriften zu IT-Sicherheit, die verpflichtende Mindestanforderungen definieren“, werde man nicht herumkommen.
Das ist schön zu hören – passt aber so gar nicht zu dem, was die Bundesregierung jüngst beschlossen hat. Ende Juni verabschiedete der Bundestag ein weitreichendes Überwachungsgesetz. Ermittlungsbehörden dürfen demnach in bestimmten Fällen Schadsoftware auf private Computer, Smartphones oder Tablets spielen, um diese zu überwachen: den sogenannten Staatstrojaner. Dafür nutzen sie: Sicherheitslücken. Um dieses Instrument nutzen zu können, nehmen die Behörden also die Existenz von Sicherheitslücken wissentlich in Kauf, statt den Hersteller zum Handeln aufzufordern.
Und auch mit der Forderung nach Transparenz war es in dem Fall nicht weit her: Das Gesetz wurde gut versteckt als Teil eines Gesetzgebungsverfahrens beschlossen, in dem es unter anderem um Führerscheinentzug als Strafe ging.
taz lesen kann jede:r
Als Genossenschaft gehören wir unseren Leser:innen. Und unser Journalismus ist nicht nur 100 % konzernfrei, sondern auch kostenfrei zugänglich. Texte, die es nicht allen recht machen und Stimmen, die man woanders nicht hört – immer aus Überzeugung und hier auf taz.de ohne Paywall. Unsere Leser:innen müssen nichts bezahlen, wissen aber, dass guter, kritischer Journalismus nicht aus dem Nichts entsteht. Dafür sind wir sehr dankbar. Damit wir auch morgen noch unseren Journalismus machen können, brauchen wir mehr Unterstützung. Unser nächstes Ziel: 40.000 – und mit Ihrer Beteiligung können wir es schaffen. Setzen Sie ein Zeichen für die taz und für die Zukunft unseres Journalismus. Mit nur 5,- Euro sind Sie dabei! Jetzt unterstützen
meistkommentiert
Hoffnung und Klimakrise
Was wir meinen, wenn wir Hoffnung sagen
Rechte Gewalt in Görlitz
Mutmaßliche Neonazis greifen linke Aktivist*innen an
Spiegel-Kolumnist über Zukunft
„Langfristig ist doch alles super“
+++ Nachrichten im Ukraine-Krieg +++
Slowakischer Regierungschef bei Putin im Kreml
Lohneinbußen für Volkswagen-Manager
Der Witz des VW-Vorstands
Fortschrittsinfluencer über Zuversicht
„Es setzt sich durch, wer die bessere Geschichte hat“