piwik no script img

Berechnung des AlltagsWir sind Algorithmen-Zombies

Algorithmen steuern uns alle fern. Sie bestimmen Entscheidungen, ohne dass wir es merken, und machen uns so manipulierbar.

Wir sind alle ferngesteuert – auf die eine oder andere Weise. Foto: reuters

Berlin taz | „Wir sind zunehmend ferngesteuert“, schreibt Dirk Helbing. Viele Entscheidungen, die Menschen treffen und die sie für ihre eigenen halten, „sind längst von Algorithmen vorherbestimmt“. Klingt weit hergeholt? Ist es aber nicht.

Dirk Helbing veröffentlichte seine Position nicht etwa im Yps-Heft, sondern in der aktuellen Ausgabe von Science, einer der angesehensten Wissenschaftszeitschriften der Welt. Auch ist Helbing kein Verschwörungstheoretiker, sondern Leiter des Bereichs Computational Social Science (so eine Art Informatik der Gesellschaft) der ETH Zürich – einer der besten Universitäten Europas.

„Personalisierte Informationen, Empfehlungssysteme und die dahinter stehenden Algorithmen ermöglichen eine Fernsteuerung unserer Handlungen durch reflexhafte Reaktionen. Das hebelt bewusstes Entscheiden weitgehend aus“, sagt er.

In seinem Beitrag für die Nature bezieht er sich etwa auf China. Das Regime führt dort ein Ratingsystem ein, das anhand des Surfverhaltens den Zugang der BürgerInnen zu bestimmten Berufen regelt. Mit einer Punktzahl, die den Personalausweis ergänzt. Wer die falschen Seiten aufruft oder auch nur digitalen Kontakt zu den „falschen“ Menschen pflegt, wird für berufliche Positionen gesperrt oder von Reisezielen ausgeschlossen.

Suchmaschinen steuern Wähler

Algorithmen sind also längst das probate Mittel einer kybernetischen Menschensteuerung. Ist alles nur in merkwürdigen Staatsformen möglich? Von wegen. NSA, globale Überwachung, Big Data.

Anhand von Massendaten lässt sich Verblüffendes prognostizieren: menschliches Verhalten etwa. Versicherungen können sehr genau mögliche Krankheiten vorhersagen. Das LKA München setzte Algorithmen ein, um Verbrechen zu identifizieren, bevor sie geschehen. Der Algorithmus von Facebook sortiert, was deren NutzerInnen sehen und was nicht.

Algorithmen ermöglichen eine Fernsteuerung unserer Handlungen. Das hebelt bewusstes Entscheiden weitgehend aus

Dirk Helbing

Im Sommer 2014 veröffentlichte der Konzern die Ergebnisse eines Menschenexperiments. Facebook war es gelungen, den Gemütszustand von 689.000 Usern positiv wie auch negativ durch eine Variation des Algorithmus fernzusteuern. Unbemerkt, denn die User wurden erst im Nachhinein unterrichtet. Die weltweite Kritik war vernichtend.

Und dann gibt es ja noch diesen Konzern, der sich neuerdings – „im Anfang war das Wort“ – Alphabet nennt: Google. Der Verhaltenspsychologe Robert Epstein beschrieb kürzlich, wie durch unbemerkte Variation der Google-Algorithmen Wahlen bereits heute entschieden werden. Er nennt das den „Suchmaschinen-Manipulations-Effekt“ (SEME). Denn über 90 Prozent der User berücksichtigen bei Google-Suchen nur die erste Seite der Trefferlisten. Davon schauen rund 50 Prozent nur die ersten zwei Suchtreffer an.

Marktführer von Suchmaschinen können den Ausgang der US-Präsidentenwahl entscheiden, so Epstein. Zwanzig Prozent der unentschlossenen Wähler ließen sich gezielt in die eine oder die andere Richtung fernsteuern. Und unentschlossene Wähler entscheiden oft, wer gewinnt. Bei 50 Prozent aller US-Präsidentschaftswahlen lagen die Unterschiede zwischen den Kandidaten bei weniger als 7,6 Prozent der Stimmen.

Lernende Maschinen

„Manipulierte Suchergebnisse sind eine Bedrohung für die Demokratie“, sagt Epstein. Deutschland müsse seine Führungsrolle in Europa nutzen und sich dafür einsetzen, dass Suchergebnisse bei Wahlen streng reguliert werden und nicht dafür benutzt werden können, Wahlen zu entscheiden. Die USA diskutieren bereits über die Regulierung von Algorithmen.

Helbing übertreibt also nicht, wenn er von einer Fernsteuerung spricht. Das Problem ist allerdings komplizierter: Denn Algorithmen werden immer komplexer. Sie reprogrammieren sich bereits selbst. Machine Learning nennt sich das – oder künstliche Intelligenz.

Programmieren dient der Automatisierung von Prozessen. Die Automatisierung der Programmierung bedeutet also eine Automatisierung der Automatisierung. Klingt nach Niklas Luhmann und ließe sich auch als Definition von Kontrollverlust verwenden.

Links lesen, Rechts bekämpfen

Gerade jetzt, wo der Rechtsextremismus weiter erstarkt, braucht es Zusammenhalt und Solidarität. Auch und vor allem mit den Menschen, die sich vor Ort für eine starke Zivilgesellschaft einsetzen. Die taz kooperiert deshalb mit Polylux. Das Netzwerk engagiert sich seit 2018 gegen den Rechtsruck in Ostdeutschland und unterstützt Projekte, die sich für Demokratie und Toleranz einsetzen. Eine offene Gesellschaft braucht guten, frei zugänglichen Journalismus – und zivilgesellschaftliches Engagement. Finden Sie auch? Dann machen Sie mit und unterstützen Sie unsere Aktion. Noch bis zum 31. Oktober gehen 50 Prozent aller Einnahmen aus den Anmeldungen bei taz zahl ich an das Netzwerk gegen Rechts. In Zeiten wie diesen brauchen alle, die für eine offene Gesellschaft eintreten, unsere Unterstützung. Sind Sie dabei? Jetzt unterstützen

Mehr zum Thema

2 Kommentare

 / 
  • Um einen kleinen Einblick zu bekommen, was Algorithmen überhaupt sind: http://www.sueddeutsche.de/digital/bedeutung-von-algorithmen-neue-weltsprache-1.2051528-2

  • Die Manipulation durch Google ist bereits über-deutlich. Dazu braucht es keiner wissenschaftlichen Studie. Leider gibt es keine Alternative. Die einzig bekannte wäre Bing, der noch mehr Manipulationen vorgeworfen wird. Yahoo basiert auch auf Bing, andere verwenden nur Meta-Suchmaschinen.