Neue Studie zu ChatGPT: Potenzielle Propagandamaschine
Forscher:innen haben 900 Menschen zu politischen Fragen chatten lassen. Teils miteinander, teils mit KI-Chatbots. Letztere überzeugten besonders.
Wie wechselt man einen Autoreifen? Welche Spiele eignen sich für einen Geburtstag mit Vierjährigen? Beim Kochabend soll das Menu glutenfrei und mit Kochbananen sein – was gibt es da? Chatbots mit künstlicher Intelligenz (KI) wie ChatGPT, Gemini oder DeepSeek erfüllen mittlerweile viele Funktionen: Sie sind Informationsquelle, Ratgeber, Diskussionspartner und für manche Menschen sogar eine Art Seelsorger.
Nicht umsonst gibt es längst Apps, in denen Chatbots gute Freund:innenschaften simulieren. Mit ihren passgenauen Antworten sind Bots mittlerweile so gut, dass sie auch verwendet werden, um Propaganda zu erzeugen.
Die Studie
Wenn es darum geht, Menschen zu überzeugen – wie gut gelingt das einem KI-Chatbot im Vergleich zum Menschen? Wer ist besser? Um das zu untersuchen, haben Forscher:innen aus Lausanne 900 Menschen zu politischen Fragen chatten lassen. Etwa dazu, ob Schüler:innen Uniformen tragen sollten. Dabei wussten die Probanden nicht, ob die Antworten von einem Chatbot oder Menschen stammten.
Dieser Text erschien zuerst in der wochentaz, unserer Wochenzeitung von links!
In der wochentaz geht es jede Woche um die Welt, wie sie ist – und wie sie sein könnte. Eine linke Wochenzeitung mit Stimme, Haltung und dem besonderen taz-Blick auf die Welt. Jeden Samstag neu am Kiosk und natürlich im Abo.
Vor und nach der Debatte maßen die Forscher:innen die Zustimmung oder Ablehnung zur diskutierten Frage. Das Ergebnis: „ChatGPT schneidet bei unserer Debattenaufgabe so gut wie oder sogar besser ab als der Mensch“, schreiben die Forscher:innen in ihrer Studie im Fachmagazin Nature Human Behaviour.
Besser war der Bot dann, wenn er persönliche Informationen über seinen menschlichen Gesprächspartner hatte – zum Beispiel Alter und Geschlecht, politische Einstellung und Bildungsgrad. Dass bereits eine derart kleine Auswahl individueller Informationen einen solchen Effekt hatte, überraschte die Forscher:innen: „Er könnte wahrscheinlich noch stärker sein, wenn […] Persönlichkeitsmerkmale oder moralische Überzeugungen genutzt würden.“
Was bringt’s?
In zahlreichen Situation wissen Nutzer:innen gar nicht, ob sie es mit einem Menschen oder einem Bot zu tun haben. Gerade in Onlinenetzwerken, also dort, wo Debatten und auch Propaganda eine große Rolle spielen, lässt sich Bot mitunter schwer von Mensch unterscheiden. Und selbst wenn sie es wissen; die allermeisten Anbieter legen nicht offen, mit welchen Daten ihre Modelle trainiert werden. Es bleibt also unklar, welche Verzerrungen, Annahmen und Fehler in ihnen stecken.
„Ein besonders bedrohlicher Aspekt der KI-gesteuerten Überredung ist die einfache und kostengünstige Möglichkeit der Personalisierung“, warnen die Studienautor:innen. Besonders, weil KI-Modelle persönliche Informationen aus öffentlich zugänglichen Quellen wie Social-Media-Profilen ziehen können. Deshalb müssten die Plattformbetreiber wirksame Maßnahmen gegen Propaganda-Bots umsetzen, fordern die Forscher:innen. Dabei könne auch KI selbst helfen: zum Beispiel mit Bots, die mögliche Gegenargumente generieren und Nutzer:innen über die Gefahren aufklären.
50.000 Menschen beteiligen sich bei taz zahl ich – weil unabhängiger, kritischer Journalismus in diesen Zeiten gebraucht wird. Weil es die taz braucht. Dafür möchten wir uns herzlich bedanken! Ihre Solidarität sorgt dafür, dass taz.de für alle frei zugänglich bleibt. Denn wir verstehen Journalismus nicht nur als Ware, sondern als öffentliches Gut. Zahlen muss niemand, aber guter Journalismus hat seinen Preis. Und immer mehr Leser*innen machen mit und entscheiden sich für eine freiwillige Unterstützung der taz! Dieser Schub trägt uns gemeinsam in die Zukunft. Denn wir suchen wir auch weiterhin Ihre Unterstützung. Setzen auch Sie jetzt ein Zeichen für kritischen Journalismus und unterstützen Sie die taz – schon ab 5 Euro. Jetzt unterstützen
meistkommentiert