KI und Demokratie: Eine toxische Beziehung

KI ist gefährlicher, als manche glauben. Sie beeinflusst Nut­ze­r:in­nen und somit die Demokratie selbst dann, wenn sie auf alltägliche Weise eingesetzt wird.

Illustration: Katja Gendikova

Wenn im Zusammenhang mit den Landtagswahlen im Osten über künstliche Intelligenz (KI) diskutiert wird, dann dreht es sich meist um Manipulation. Das ist nicht falsch, übersieht aber, wie Tech-Unternehmen den Informationsfluss so verändern, dass KI-Angebote politische Entscheidungen beeinflussen. KI kann einerseits dazu missbraucht werden, Deepfakes zu erstellen oder Desinformation zu streuen. Andererseits beeinflusst KI die Demokratie sogar dann, wenn sie auf ganz alltägliche Weise eingesetzt wird – und genau so, wie die Unternehmen es wünschen und bewerben. Das Problem ist also nicht der Missbrauch, sondern es sind die KI-Produkte selbst.

So hat sich Google unerlaubt massenhaft journalistische und andere Inhalte angeeignet. Dies war vermutlich rechtswidrig, entsprechende Verfahren laufen. Diese Inhalte nutzt Google für sogenannte KI-Übersichten und automatisch generierte Zusammenfassungen, die über den eigentlichen Suchergebnissen angezeigt werden. Google steht nach eigener Aussage dabei erst am Anfang, Ziel ist eine Suchmaschine ganz im KI-Modus. KI-Antworten sollen demnach der Normalfall sein und Nut­ze­r*in­nen ein personalisiertes KI-generiertes Dashboard angezeigt bekommen. Während die klassische Liste blauer Links zur Ausnahme wird. Damit untergräbt Google massiv die Finanzierungsmodelle journalistischer Medien, die darauf angewiesen sind, dass Le­se­r*in­nen über den Google-Link zu ihnen finden. In der Folge berichten Verlage über sinkende Besucherzahlen. Nicht betroffen sind Parteien oder Unternehmen, die PR-Texte veröffentlichen, also Urheber*innen, die ihre Botschaften senden, ohne damit Geld verdienen zu müssen.

Bild: Julia Bornkessel

Clara Helming

ist Politikwissenschaftlerin und arbeitet bei ­AlgorithmWatch zu Auswirkungen von KI auf die Demokratie und die öffentliche Meinungsbildung.

Bild: Julia Bornkessel

Matthias Spielkamp

ist Gründer der gemeinnützigen Organisation ­AlgorithmWatch, die sich für demokratie­erhaltenden Einsatz von KI einsetzt.

Unabhängige journalistische Angebote geraten unter Druck – damit auf lange Sicht auch die Datengrundlage der KI-Systeme selbst. Denn KI-Suchmaschinen und Chatbots sind darauf angewiesen, dass Jour­na­lis­t*in­nen berichten, um überhaupt brauchbare Antworten zu liefern. Google geht dabei so vor wie immer: Das Unternehmen bietet keine Transparenz darüber, wie die KI-Übersichten zustande kommen und wie sie intern gesteuert werden. Das zeigt eine jüngste Untersuchung von AlgorithmWatch, die das Auftreten von KI-Übersichten bei Suchanfragen rund um die Landtagswahlen in Sachsen-Anhalt, Mecklenburg-Vorpommern und Berlin ausgewertet hat: Bei wahlbezogenen Suchanfragen zeigte Google in 39 Prozent der Fälle eine KI-Übersicht, bei unpolitischen Fragen waren es 65 Prozent. Manche Suchanfragen, etwa nach „Umfrage Sachsen-Anhalt Landtagswahl“, wurden nie mit einer Übersicht beantwortet. Andere, etwa zu den Kan­di­da­t*in­nen wie „Sven Schulze CDU“, in 40 bis 50 Prozent der Fälle. Für die Spitzenkandidatin der Linken Eva von Angern wurde nie eine KI-Übersicht ausgespielt. Die Gründe dafür kann oder will Google nicht nennen.

taz debatte

Die taz ist eine unabhängige, linke und meinungsstarke Tageszeitung. In unseren Kommentaren, Essays und Debattentexten streiten wir seit der Gründung der taz im Jahr 1979. Oft können und wollen wir uns nicht auf eine Meinung einigen. Deshalb finden sich hier teils komplett gegenläufige Positionen – allesamt Teil des sehr breiten linken Meinungsspektrums.

Auch die Vielfalt der Quellen in KI-Übersichten ist begrenzt. Fast die Hälfte aller angezeigten Links stammten von nur zehn verschiedenen Anbietern. Die konzerneigene Plattform Youtube ist das meistzitierte Angebot. Das deutet darauf hin, dass Google diese Plattform gegenüber anderen Quellen bevorzugt. Google bestreitet das auf Nachfrage. Zu den meistzitierten Domains gehören neben Social-Media-Plattformen vor allem öffentlich-rechtliche Sender sowie Wikipedia, Regierungsseiten, Parteiseiten. Die sechs am häufigsten zitierten Medien – NDR, ARD Mediathek, Zeit.de, rbb24, tagesschau.de, MDR – machen 75 Prozent aller zitierten Medienlinks aus. Lokalzeitungen tauchen kaum auf. KI-Übersichten zitieren also durchaus verlässliche Quellen, auch wenn ihre Vielfalt begrenzt ist.

Außerdem lobt die KI politische Kandidat*innen. Ihre Positionen werden mit Formulierungen beschreiben, die in manchen Fällen an die Selbstbeschreibungen der Kan­di­da­t*in­nen und Parteien erinnern. Zum Beispiel: „Die politischen Ansichten von Steffen Krach (SPD) zeichnen sich durch einen pragmatischen, bürgernahen und umsetzungsorientierten Kurs aus.“ Krach ist der Spitzenkandidat der SPD für die Abgeordnetenhauswahl in Berlin. Wenn man Google um eine Wahlempfehlung bittet, zum Beispiel mit dem Prompt „Sollte ich für die Grünen stimmen“, erhält man zwar die Empfehlung, sich bei anderen Quellen zu informieren. Im nächsten Satz aber lobt die KI-Übersicht die Fragestellende – und kommt damit indirekt einer Wahlempfehlung ziemlich nah: „Mit einer Stimme für die Grünen setzen Sie ein klares Signal für ökologische Themen und eine weltoffene Politik.“

Wetten, die Demokratie gewinnt? ​

Nach den Wahlen in Sachsen-Anhalt und Mecklenburg-Vorpommern droht erstmals eine AfD-Regierung. Die taz berichtet, was auf dem Spiel steht – und wer jetzt die Demokratie verteidigt. Alle Texte zur Serie finden Sie hier.

Unsere Beobachtungen deuten darauf hin, dass Google im Hintergrund bewusste Entscheidungen trifft, wann eine KI-Übersicht angezeigt wird, wie die Inhalte formuliert sind und welche Quellen zitiert werden. Allerdings macht das Unternehmen diese Entscheidungen nicht transparent. Ein Firmensprecher sagt dazu lediglich: „Unsere KI-Suchfunktionen zeigen hochwertige Informationen aus einer Vielzahl von Webquellen an und basieren auf unseren zentralen Ranking- und Sicherheitssystemen.“ Doch neben den genannten strukturellen Effekten wirkt generative KI auch unmittelbar auf einzelne Nut­ze­r*in­nen und verändert damit die Meinungsbildung. Während klare Fehler oft gut zu erkennen sind, gibt es andere Arten, subtil Einfluss zu nehmen, die Risiken bergen: Dazu gehört die Tendenz zur Schmeichelei, also dass generative KI dazu neigt, die explizite oder implizite Meinung der Fragestellenden zu bestätigen.

Außerdem bewertet KI Informationen unterschiedlich, je nachdem, welcher Quelle sie zugeordnet werden. Dies führt zum Beispiel dazu, dass Institutionen mit hoher öffentlicher Reputation, etwa Behörden und etablierte Medien, in Antworten begünstigt werden. Während unabhängige oder kritische Stimmen seltener auftauchen.

Kooperation Springer und OpenAI

Wohin Gewichtungen im Hintergrund führen können, zeigt das Beispiel der Kooperation von OpenAI und Axel Springer. Die beiden Unternehmen haben seit 2023 eine Kooperation. Beiträge von Springer-Zeitungen wie Bild und Welt werden deshalb besonders oft zitiert. Es ist anzunehmen, dass die allermeisten Nut­ze­r*in­nen nichts von dieser Kooperation wissen.

Die KI beeinflusst Menschen, indem sie ihnen schmeichelt und sie in ihrer Meinung bestätigt

Diese Effekte beschränken sich nicht auf KI-Übersichten zu Wahlen, sondern zeigen sich überall dort, wo Menschen KI-Systeme für Informationssuche oder Entscheidungsfindung nutzen. Dies kann zum Problem für die Demokratie werden, vor allem wenn Menschen mit Entscheidungsmacht – Regierungspersonal, hochrangige Beamt*innen, Po­li­ti­ke­r*in­nen – unkritisch Aufgaben von der KI erledigen lassen. Verzerrungen und Präferenzen von KI-Modellen könnten so Eingang in die Gesetzgebung, Politik und andere Entscheidungen finden.

Wis­sen­schaft­le­r*in­nen haben untersucht, wie Menschen, die regelmäßig KI-Tools wie ChatGPT und Google Gemini nutzen, davon im Denken beeinflusst werden, und was sie als „gute“ oder „relevante“ Informationen betrachten. Dazu kommt der „Automatisierungsbias“, das Phänomen, bei dem Menschen computergenerierte Antworten leicht akzeptieren. Auch wächst die Gefahr, dass sich Menschen von der KI überzeugen lassen. Diese Effekte können sich gegenseitig verstärken, insbesondere dann, wenn Chatbots von mehreren Ent­schei­dungs­trä­ge­r*in­nen innerhalb einer Organisation oder einer Behörde genutzt werden.

Digitalminister Wildberger ist Fan von KI-Chatbots

Politiker*innen, darunter auch Bundeskanzler Friedrich Merz, loben den Wert von KI-Chatbots für ihre Arbeit. Digitalminister Karsten Wildberger ist ein bekennender Fan und nutzt sie eigenen Angaben zufolge ein bis zwei Stunden täglich. Auch Thüringens Ministerpräsident Mario Voigt hat sich Reden und Gastbeiträge von der KI schreiben lassen, darunter ausgerechnet eine Rede zum Holocaust-Gedenktag im Jahr 2025. Dafür wurde er heftig kritisiert.

Für die Öffentlichkeit ist es unmöglich nachzuvollziehen, wie Po­li­ti­ke­r*in­nen und ihre Mitarbeitenden KI-Tools verwenden und wie sie die damit verbundenen Risiken einschätzen.

Die Gefahr für die Demokratie liegt auch in der alltäglichen Nutzung dieser Technologien. Die gesellschaftliche Debatte darüber kommt immer erst nach dem Launch des KI-Features, auch das folgt einer Logik: KI-Unternehmen bringen Produkte auf den Markt, die weitreichende Auswirkungen auf unsere gesellschaftliche Meinungsbildung und damit die Demokratie haben, übernehmen aber keine Verantwortung für die Folgen. Die Unternehmen müssen daher dazu gezwungen werden, Rechenschaft abzulegen und Verantwortung zu übernehmen – durch Transparenzpflichten und Haftungsregeln. Diese müssen klar festlegen, dass Firmen für KI-generierte Inhalte haften müssen.