Studie zu KI-Quellenauswahl: Guten Abend, hier ist die KI-Schau
Nachrichten, präsentiert von ChatGPT & Co., beeinflussen die öffentliche Meinungsbildung. Expert*innen warnen und fordern mehr Transparenz.
Foto: Christian Ohde/imago
Was passiert, wenn Menschen nicht mehr nach aktuellen Nachrichten googeln, sich nicht durch Artikel klicken und keine unterschiedlichen Perspektiven einholen, sondern nur ihre mit künstlicher Intelligenz (KI) ausgestatteten Chatbots fragen? Eine Studie legt nahe, dass die Antwortenauswahl eindimensional wird und KI-Systeme zu den neuen Gatekeepern der öffentlichen Meinungsbildung werden.
Die KI filtert praktisch, welche Nachrichten sichtbar werden. Einst wurde diese Rolle Journalist*innen zugesprochen, schien durch Social Media überflüssig und blüht heute wieder durch die Nutzung von ChatGPT, Claude, Gemini und Co. auf. Das Problem: KI-Systeme sind kaum reguliert, die Quellenauswahl ist intransparent und die Unternehmen weisen regelmäßig Verantwortung von sich.
„Vor allem Google AI Overview wird immer präsenter, während dem Journalismus das Geschäftsmodell verloren geht, da Menschen nicht mehr auf die Originalquelle klicken“, erklärt Dr. Vivien Benert vom Thinktank Agora Digitale Transformation gegenüber der taz. Das Unternehmen beschäftigt sich mit digitalen Entwicklungen und Demokratie. Weniger Klicks bedeutet für Medien weniger Menschen, die ein potenzielles Abo abschließen oder auf der Seite die Werbung sehen, die zur Finanzierung beiträgt.
KI versus Journalismus
Dieses Phänomen nennt sich Zero-Click-Suche. In Deutschland greift die KI-generierte Zusammenfassung von Google bereits 265 Millionen organische Klicks ab. Damit gemeint sind Klicks, die Nutzer*innen auf eine Website weitergeleitet hätten und jetzt bei der KI-Übersicht hängen bleiben. Die absolute Zahl klingt hoch, macht aber gerade mal 6,6 Prozent aller organischen Klicks aus. Das zeigt die Auswertung des SEO-Tools Sistrix, das dafür 100 Millionen Keywords untersucht hat.
Die Auswirkung der AI Overview hängt dabei stark von Thema und Ausrichtung ab. Wikipedia verliert beispielsweise 31,6 Millionen Klicks pro Monat, wohingegen deutsche Medien und News aktuell noch wenige Abstriche machen. Sistrix erklärt das damit, dass Google sich offenbar nicht „traue“, Zusammenfassungen bei Nachrichteninhalten zu erstellen, da diese oft zeitkritisch und meinungsbetont sind und konkrete Quellenangaben erfordern.
Das Wall Street Journal berichtet hingegen, dass viele der US-amerikanischen Newsseiten wie CNN, USA Today und die Washington Post bereits bis zu 44 Prozent des Traffics einbüßen. Und auch in Frankreich haben sich rund 300 Zeitungen zusammengeschlossen und Beschwerde bei der Wettbewerbsbehörde des Landes eingereicht – gegen die Google AI Overview.
ChatGPT als persönlicher Redakteur
Benert vom Thinktank Agora ist Mitherausgeberin der Studie „Meinungsbildung im Wandel“, die Anfang Juli erschien. Sie untersucht, welche Quellen von KI-Systemen herangezogen werden, wenn Nutzer*innen ihre Nachrichtenanfragen an sie stellen. ChatGPT als persönlicher Redakteur sozusagen. In der Studie wurden neben ChatGPT auch Google AI Overview, Gemini, Claude und Perplexity untersucht. Benert sagt, es sei auffällig gewesen, dass viele der Quellen nicht tagesaktuell waren, obwohl in den Prompts danach gefragt wurde.
Sie ergänzt: „Gerade wenn es um gesellschaftspolitische oder aktuelle globale Ereignisse geht, kann es dauern, bis KI-Modelle die Information aufgenommen haben.“ Das erinnert die Forscherin an eine Studie der Europäischen Rundfunkunion von 2025, bei der alle gängigen KI-Systeme eine falsche Antwort auf die Frage gaben: „Wer ist der Papst?“ Das lag daran, dass die Modelle im Mai letzten Jahres noch nicht die Information aufgenommen hatten, dass Papst Franziskus im April verstorben war.
Obwohl sich KI-Systeme seitdem rasant weiterentwickelt haben, sagt Benert: „Ich kann mir vorstellen, dass dieses Problem bestehen bleibt, weil es immer dauern wird, bis genügend Informationen im Internet verbreitet sind und die Systeme sie flächendeckend aufnehmen.“
Quellenauswahl ist eine „Blackbox“
Nach der Veröffentlichung der Agora-Studie gab es einen Medientrubel darum, dass Claude von Anthropic – von vielen noch immer als „moralische“ KI wahrgenommen – während des Untersuchungszeitraums siebenmal auf das russische Desinformationsnetzwerk Pravda zugegriffen hatte. Claude stellte in den Antworten Desinformation auf die gleiche Ebene wie journalistische Nachrichten, ohne das zu kennzeichnen.
Bei ChatGPT fiel wiederum auf, dass die Quelle welt.de dominierte. Ursache dafür könnte die seit 2023 bestehende Kooperation zwischen OpenAI und dem Axel-Springer-Konzern sein, zu dem die Welt gehört. Das sei aber nicht sicher auf die Kooperation zurückzuführen, da die Kriterien nicht ausreichend offengelegt seien, so Benert. „Der größte Kritikpunkt unserer Studie ist, dass die Quellenauswahl intransparent und nicht nachvollziehbar ist“, sagt die Forscherin, „außerdem wissen wir nicht, welcher Teil der Antwort sich auf die Trainingsdaten bezieht und welcher aus einer aktuellen Websuche hervorgeht“.
Während also journalistische Medien sich größtenteils an den Pressekodex halten, Quellen offenlegen und auch die politische Ausrichtung eines Mediums Indiz auf die Inhalte gibt, nennt Benert die Quellenauswahl von KI-Systemen eine „Blackbox“. Sie kritisiert: „Nutzende wissen meist nicht, worauf die vorliegende Antwort basiert.“ Dadurch entstehe eine schwer wahrnehmbare Verzerrung der Nachrichtenvermittlung.
Wenig journalistische Quellen bei Klima und Migration
„Die politische Ausrichtung der Quellen verändert sich dabei nicht nur je KI-Modell, sondern auch mit jeder Anfrage und jedem Thema“, erklärt Benert. Gemini ist beispielsweise eher ausgewogen, zitierte aber bei Klima-Themen überdurchschnittlich viele konservative und rechte Quellen.
Claude hingegen bezieht sich häufiger auf Medien aus dem linken, liberalen und wirtschaftsliberalen Spektrum, greift aber zusätzlich auf Desinformation zurück. Zudem wurden Medien aus dem Rechts-außen-Spektrum zitiert – wie Junge Freiheit und Nordkurier.
Spannend sei, dass gerade beim Thema Klima und Migration der Anteil journalistischer Quellen bei allen KI-Modellen sinke, so Benert. „Das muss aber nicht unbedingt problematisch sein. Es bedeutet erst mal nur, dass sich die Modelle bei ihren Antworten auch auf staatliche oder wissenschaftliche Quellen beziehen.“
Vertrauen in KI-Modelle
Trotzdem solle man sich nie pauschal auf die Antworten von KI verlassen, sondern immer auch einen Blick auf die Quellen werfen und selbst recherchieren, betont Benert. Wie Umfragen zeigen, machen das allerdings die wenigsten. Zu bequem scheint die Möglichkeit, seine Frage einfach in ein KI-Modell zu tippen und eine passgenaue Antwort als Fließtext zu bekommen.
Die Umfragen zeigen auch, dass immer mehr Menschen bei ihrer Suche im Netz KI nutzen und den Ergebnissen unkritisch vertrauen. Obwohl selbst Google in einem Gerichtsverfahren zur Verbreitung von Falschinformationen argumentiert, „dass den mit KI generierten Informationen nicht blind vertraut werden dürfe“.
Im Juni urteilte das Münchner Landgericht gegen den Tech-Giganten, der sich mit der Aussage aus der Verantwortung ziehen wollte. Das wegweisende Urteil ist noch nicht rechtskräftig, besagt aber, dass Google für die Inhalte der KI-Übersicht haftet.
Benötigte Regulierungen
„Bei KI-Systemen sehen wir, dass bestehende Regulierungen nicht richtig greifen, da man sich noch immer darum streitet, wie die Systeme kategorisiert werden“, so Benert. Der AI Act der Europäischen Union bietet einen Anhaltspunkt. Er spezifiziert sich bei der Transparenzpflicht von Quellen aber nur auf die Trainingsdaten und nicht auf die Auswahl und Gewichtung im laufenden Betrieb der Modelle.
Eine weitere Idee zur Regulierung der KI-Systeme wäre es, sie unter dem Digital Service Acts als sehr große Plattform oder Suchmaschine einzustufen. Laut dem Handelsblatt könnte die EU-Kommission das bald mit OpenAI tun, da die Voraussetzung von mehr als 45 Millionen aktiven Nutzer*innen pro Monat erfüllt ist. Damit würden Regularien zur Entfernung von illegalen Inhalten, einfache Meldeverfahren für Nutzer*innen, Jugendschutzrichtlinien sowie mehr Transparenz einhergehen.
„Auch der Medienstaatsvertrag ist ein Ansatzpunkt“, ergänzt Benert. Erst kürzlich hatte die Landesmedienanstalt ein Rechtsgutachten dazu veröffentlicht. Das Gutachten stimmt mit dem Urteil des Münchner Gerichts überein: KI-Antworten sind als eigener Inhalt einzuordnen, für die Tech-Unternehmen Verantwortung übernehmen sollten.
Finanzielle Abgaben an Medien
Das Gutachten greift außerdem den Punkt auf, dass journalistische Inhalte durch das Wegfallen der Klicks in ihrer Refinanzierung bedroht sind. Stichwort Werbeeinnahmen und Abo-Abschlüsse. Aus der Sicht von Benert gäbe es für Medien zwei Strategien, damit umzugehen: „Das eine sind Kooperationen – wie wir es bei Axel Springer und OpenAI sehen. Oder das komplette Gegenteil: Zum Beispiel schließen BBC und FAZ KI-Zugriffe aus und behalten ihre Inhalte für sich.“
Angesichts der angespannten finanziellen Lage des Journalismus könnte auch eine Digitalabgabe interessant sein, argumentiert die Forscherin: von den KI-Anbietern an die Medienhäuser. Denn damit KI-Systeme wie ChatGPT, Google AI und Claude überhaupt erst wie ein persönlicher Redakteur agieren können und passgenaue Nachrichten für Nutzer*innen ausspucken können, braucht es journalistische Quellen und Recherche als Grundlage. Benert appelliert an die Nutzenden: „Verlasst euch nicht einzig auf KI-Antworten und unterstützt qualitativ hochwertigen Journalismus – gerade jetzt.“
Der drohende Erfolg der AfD bei den kommenden Landtagswahlen zeigt, wie stark rechtsextreme Kräfte inzwischen geworden sind. Gerade jetzt braucht es Zusammenhalt und Solidarität. Auch und vor allem mit den Menschen, die sich vor Ort für eine starke Zivilgesellschaft einsetzen. Die taz kooperiert deshalb mit "Alles beginnt im Zentrum". Die Kampagne unterstützt bundesweit linke, selbstverwaltete Orte und baut einen solidarischen Fonds für deren Schutz und Erhalt auf. Eine offene Gesellschaft braucht guten, frei zugänglichen Journalismus – und zivilgesellschaftliches Engagement. Finden Sie auch? Dann machen Sie mit und unterstützen Sie unsere Aktion. Jetzt unterstützen
meistkommentiert