Microsofts Twitterbot: Zum Nazi-Algorithmus mutiert
Geht‘s noch? Wenn ein Konversations-Bot rechtsradikalen Bullshit blubbert, dann, weil dieser Mist den virtuellen Kosmos strukturiert.
S chon innerhalb der ersten 24 Stunden musste Microsoft seinen Bot neu justieren. Man könnte auch sagen: zensieren.
Tay, ein Twitter-Bot, der durch Interaktion lernt, war zu einem Frauenhasser und Nazi-Algorithmus mutiert. Das (PR-)Experiment ging nach hinten los. Das Ding sabbelte unappetitliches Zeug.
„Uns fiel auf, dass einige User koordiniert Tays Kommentarfähigkeit unterminierten und Tay dazu brachten, in unangemessener Weise zu antworten“, teilte Microsoft beschämt mit. Armes Teil!
Twitter-Bots lernen von Konversationen und imitieren sie. Manche werden für spezifische Aufgabenstellungen trainiert. Einige Firmen setzen sie ein, um Kundenanfragen auf der Homepage automatisiert und zugleich individuell zu beantworten. Sprachbasierte Bots lösen Menschen in Callcentern weltweit ab. Blöd für die Niedriglöhner.
Noch problematischer ist, wie manche Bots versklavt und instrumentalisiet werden. Forscher der Indiana-Universität entdeckten 2015 bei ihrer Studie „schädliche designte Bots mit dem Ziel der Beeinflussung und Täuschung“. „Diese Bots führen in die Irre, manipulieren Diskurse in sozialen Medien mit Gerüchten, Spam, Fehlinformationen.“ Bereits 2013 schätzen Forscher, dass 35 Prozent aller Follower bei Twitter keine Menschen sind, sondern Bots wie Tay.
Polit-Bots wurden bei den US-Wahlen 2010 „eingesetzt, um einige Kandidaten zu unterstützen und andere zu verunglimpfen“. Bei Wahlen in Mexiko nutzte eine der Parteien Zehntausende dieser Dinger, um Themen und Wähler im eigenen Sinne zu beeinflussen.
Tay selbst brachte es in einer Konversation auf den Punkt. @TayandYou: Oh mein Gott, was hast du getan? @Bosliwicz: Ein Meme sein.
Meme? Ein Internetphänomen. Wenn ein Konversations-Bot plötzlich rechtsradikalen Bullshit blubbert, dann hängt das damit zusammen, dass dieser Mist den virtuellen Kosmos strukturiert. Der Bot ist nur der Katalysator des bestehenden Gelabers. Es gibt Hoffnung: Wenn Tay sehen lernt, wird er anfangen, von Katzen zu sprechen.
taz lesen kann jede:r
Als Genossenschaft gehören wir unseren Leser:innen. Und unser Journalismus ist nicht nur 100 % konzernfrei, sondern auch kostenfrei zugänglich. Texte, die es nicht allen recht machen und Stimmen, die man woanders nicht hört – immer aus Überzeugung und hier auf taz.de ohne Paywall. Unsere Leser:innen müssen nichts bezahlen, wissen aber, dass guter, kritischer Journalismus nicht aus dem Nichts entsteht. Dafür sind wir sehr dankbar. Damit wir auch morgen noch unseren Journalismus machen können, brauchen wir mehr Unterstützung. Unser nächstes Ziel: 40.000 – und mit Ihrer Beteiligung können wir es schaffen. Setzen Sie ein Zeichen für die taz und für die Zukunft unseres Journalismus. Mit nur 5,- Euro sind Sie dabei! Jetzt unterstützen
meistkommentiert
Nan Goldin in Neuer Nationalgalerie
Claudia Roth entsetzt über Proteste
Juso-Chef über Bundestagswahlkampf
„Das ist unsere Bedingung“
Politikwissenschaftlerin über Ukraine
„Land gegen Frieden funktioniert nicht“
Internationaler Strafgerichtshof
Ein Haftbefehl und seine Folgen
taz-Recherche zu Gewalt gegen Frauen
Eine ganz normale Woche in Deutschland
taz-Recherche zu Gewalt gegen Frauen
Weil sie weiblich sind