Strategien gegen Fake-News: Das Dilemma der freien Rede
Fake News und Hetze machen unser Zusammenleben kaputt. Wie können demokratische Gesellschaften dagegen vorgehen – ohne sich selbst in Verruf zu bringen?
M ai 2024, Sarajevo. Das Holiday Hotel ist ein nobler Kasten im Westen der Stadt. „Journalismus am Wendepunkt“ heißt die Konferenz, die heute hier stattfindet, „Desinformation aufdecken, Wahrhaftigkeit erhalten“ das Abschlusspodium. Vielleicht müssen die Namen so hochtrabend sein, damit die Teilnehmer:innen aus der ganzen Welt nicht lieber beim Mokka auf der Terrasse sitzen bleiben und auf die Hügel der Stadt schauen, wer weiß.
Ich sitze auf dem Podium mit Carlos Hernández-Echevarría, einem freundlichen Mittdreißiger aus Spanien. Er ist der Chef des europäischen Faktenprüfer-Netzwerks EFCSN. Echevarría spricht über Telegram. Die Schrankenlosigkeit des Messengerdienstes schaffe „immense Möglichkeiten, ganz realen Schaden anzurichten“, sagt er. Jeder könne dort ungehindert alles verbreiten. Telegram stelle sich so „über das Recht“ und lasse zu, dass öffentliche Äußerungen „immer wieder als Waffe genutzt“ würden.
Dass Hetze und Fake News diese Kraft haben – das sehen heute viele so. Durch gezielte Diskreditierung geht liberalen Demokratien die Akzeptanz verloren. Kaum etwas zeigt das gerade so klar wie die manipulative Kampagne von X-Eigner Elon Musk für die Wiederwahl von Donald Trump.
Es ist kompliziert
Wie weit müssen Gesellschaften gegen die Desinformation im Netz vorgehen? Es geht dabei nicht nur um Verbotenes wie Aufrufe zur Gewalt. Äußerungen müssen nicht illegal sein, um demokratiezersetzend zu sein – und da wird es kompliziert.
Der Sender Auf1 etwa warnt, wenn jetzt keine „Corona-Tribunale“ die „Lügen endlich öffentlich zum Einsturz bringen“, dann drohe „die nächste Plandemie“. Die „nächsten Anschläge auf uns“ seien „in Vorbereitung“. Beim Compact-Magazin von Jürgen Elsässer werden die Menschen in der „BRD-Diktatur […] immer unfreier“ und zu „Vasallen Brüssels“. Laut dem Krawallportal Niusvon Ex-Bild-Chef Julian Reichelt wollen die „Grünen die Freiheit vernichten“ und die Berliner CDU „verwandelt die Hauptstadt in ein Aufmarschgebiet des islamistischen Terrorismus“.
Dieser Text stammt aus der wochentaz. Unserer Wochenzeitung von links! In der wochentaz geht es jede Woche um die Welt, wie sie ist – und wie sie sein könnte. Eine linke Wochenzeitung mit Stimme, Haltung und dem besonderen taz-Blick auf die Welt. Jeden Samstag neu am Kiosk und natürlich im Abo.
Die Reichweite allein dieser drei rechten und rechtsextremen Medien überschreitet zusammen locker die Millionengrenze. Und das Netz ist voll von derlei. Was kann verhindern, dass solche Hetze weiter massenhaft ihren Weg in die Köpfe findet? Und wie sehr untergraben Demokratien ihre Legitimität, wenn sie gegen Äußerungen vorgehen, die sie selbst nicht verboten haben?
Diese Fragen sind gerade allgegenwärtig. Je näher man sich mit ihnen beschäftigt, desto schwieriger erscheint eine Antwort. Doch lässt man die Dinge einfach laufen, wenden sich absehbar immer mehr Menschen vom liberal-demokratischen Konsens ab. Was also tun?
Mehrere Ansätze
Ein Ansatz führt über Inhalte. Was falsch oder irreführend ist, wird nicht gelöscht, aber markiert. Das ist der Vorschlag von Faktenprüfer:innen wie Carlos Hernández-Echevarría. Sein Verband hat dazu einen Kodex entwickelt, der Transparenz, Fairness und Unabhängigkeit bei der Überprüfung von Inhalten fordert.
Fact-Checking könne so ein „kraftvolles Instrument“ gegen Desinformation sein, verspricht Echevarría. Was dafür benötigt werde, seien genügend bezahlte Stellen – je mehr, desto besser. Zu diesem Zweck solle die Politik die Tech-Plattformen verpflichten, mehr Geld für eine verbindliche Moderation von Inhalten bereitzustellen. Ich finde, das klingt vernünftig.
Doch den Faktenprüfer:innen sprechen heute viele genau das ab, worauf ihre Arbeit beruht: Objektivität. Als „Fake“ markiert werde von ihnen, was nicht dem „grün-woken Zeitgeist“ entspreche, heißt es. Fact-Checking sei nur ein trojanisches Pferd gegen die Meinungsfreiheit. Das glauben heute viele – und bedrohen Faktenprüfer:innen deshalb sogar.
Normalität ist anders
Neben Echeverría sitzt auf dem Podium in Sarajevo Ana Brakus. Sie ist die Chefin von Faktograf in Zagreb, einem Medium, der unter anderem für Meta von Usern gemeldete Facebook-Inhalte auf Desinformation überprüft. Seit zwei Jahren arbeiten wir in der taz bei Recherchen mit ihr zusammen. Man dürfe „die ständige Gewalt und die Belästigungen, mit denen wir konfrontiert sind, nicht als Normalität akzeptieren“, sagt Brakus in Sarajevo.
Ihre Kolleg:innen erhalten Morddrohungen, weil Menschen deren Arbeit als Zensur begreifen. Bevor ich Brakus kennenlernte, hätte ich mir so etwas nicht vorstellen können.
Staatliche Stellen wollen hingegen die Plattformen regulieren, um gegen Desinformation vorzugehen. Die Inhalte selbst wollen sie dabei nicht in den Blick nehmen, denn sie fürchten den Vorwurf der Zensur. Man wolle „kein Wahrheitsministerium sein“ – diesen Satz sagen staatliche Anti-Fake-News-Kämpfer länderübergreifend so oft, als hätten sie sich dazu abgesprochen. Stattdessen reden sie lieber über Botnetze, verschleierte Quellen und feindliche Regierungen wie Russland, die heute offensiv Desinformationen verbreiten.
Es gebe „ein Recht zu lügen, aber kein Recht, das Land zu destabilisieren“ – auf diese Formel bringt es eine Vertreterin der staatlichen Agentur für psychologische Verteidigung aus Schweden.
Die deutsche Regierung setzt bei ihren Regulierungsversuchen unter anderem auf die „staatsferne“ Medienaufsicht. Damit soll auch der Verdacht entkräftet werden, sie selbst gehe gegen Kritiker:innen im Netz vor. Die EU hat mit ihrem Digital Services Act (DSA) – einem im Februar in Kraft getretenen Regelwerk – „systemische Risiken“, die von Desinformationen ausgehen, definiert.
Es sind Bereiche, in denen ein unkontrollierter Informationsfluss der Gesellschaft schaden kann: Grundrechte, Privatsphäre, Kinderrechte, Diskriminierung, öffentliche Gesundheit, Wahlen und die öffentliche Sicherheit. Die großen Onlineplattformen müssen gegenüber der EU-Kommission darlegen, was sie selbst gegen diese Risiken unternehmen. Tun sie es nicht, drohen Bußgelder.
Doch egal, wie Staaten die Regulierung angehen – der Zensurvorwurf ist immer da, genauso wie beim Fact-Checking. Populist:innen attackieren den langsam Fahrt aufnehmenden Kampf gegen die Desinformation als Versuche einer rot-grünen Gesinnungsdiktatur, unterhalb der Strafbarkeitsgrenze die Meinungsfreiheit zu beschneiden. Die sozialen Medien seien der einzige Ort, wo echte Kritik am Staat noch möglich sei – und deshalb sollen sie nun unter Kontrolle gebracht werden, behaupten sie.
In Deutschland etwa gipfelte das jüngst in einer Kampagne gegen die sogenannten Trusted Flagger. Auf Grundlage des DSA sollen diese Meldestellen künftig Desinformation bei Plattformbetreibern wie Facebook melden können. Um die Trusted Flagger in Verruf zu bringen, wurden über sie massenhaft Fake News in die Welt gesetzt. „Deutschlands oberster Zensor“ hieß es über sie etwa bei Nius.
Meinungsfreiheit wird instrumentalisiert
„Meinungsfreiheit“ war, solange ich zurückdenken kann, ein positiv besetzter Begriff. Nun wird er immer stärker instrumentalisiert, um ungestört hasserfüllte Propaganda oder irreführenden Unsinn verbreiten zu dürfen. Das ist der Haken aller Strategien gegen die Desinformation: Jeder Versuch, gegen Hetze und Fakes vorzugehen, bestätigt in den Augen vieler Menschen erst recht den Vorwurf, dass mit autoritären Mitteln die Grundrechte beschnitten würden. Ein Dilemma ersten Ranges.
Auf dem Podium in Sarajevo stelle ich ein Modell aus Deutschland vor, das mir als sinnvoller Kompromiss erscheint zwischen der Wahrung der Meinungsfreiheit und der Notwendigkeit, gefährliche Pseudonews einzudämmen. Ende 2020 haben die deutschen Landesmedienanstalten eine neue Befugnis bekommen. „Telemedien“, so heißt es im Medienstaatsvertrag von 2020, haben „anerkannten journalistischen Grundsätzen zu entsprechen“.
Was wenig aufregend klingt, verschaffte der Medienaufsicht eine völlig neue Handhabe. Das Zauberwort heißt „journalistische Sorgfaltspflicht“. Wer im Netz publiziert, muss unter anderem darauf achten, dass „durch Weglassen von Informationen kein verzerrtes Bild“ entsteht. Wer gegen die Sorgfaltspflicht verstößt, dem kann der Staat den Youtube-Kanal oder die Webseite dichtmachen.
Auf dieser Grundlage ging 2021 die Landesmedienanstalt Berlin-Brandenburg (MABB) gegen KenFM vor, dem reichweitenstarken Kanal von Ken Jebsen, einem der berühmtesten Verschwörungsrauner Deutschlands. Jebsen hatte einen Text veröffentlicht, in dem die Covid-Impfstoffe ein „weiterer Versuch, einen Homozid zu versuchen“ genannt wurden. „Homozid“ meint die Auslöschung der Menschheit.
Das Ganze sei eine „Operation am offenen Herzen der Meinungsfreiheit“, sagte mir damals der MABB-Justiziar Marco Holtz. Man sei sich bewusst, dass das Vorgehen heikel ist, und gehe entsprechend behutsam vor. Seine Behörde sei „keine Wahrheitspolizei“. Moniert werde nur, wenn Inhalte aus dem Zusammenhang gerissen, Quellen nicht genannt oder Zitate verfälscht würden. Ob etwas richtig oder falsch sei, spiele keine Rolle.
Reaktionen sind überraschend
Als das Podium in Sarajevo vorbei ist, kommen Zuhörer:innen auf mich zu. Ihre Reaktion hätte ich nicht erwartet. Das sei ja entsetzlich, was ich da aus Deutschland erzählt habe, sagen sie. Der Staat dürfe prüfen, ob Journalist:innen ihre Arbeit gut machen – und wenn nicht, ihre Kanäle abstellen? Das sei das Tor zur Hölle. „Was glaubt ihr, was die AfD damit macht, wenn sie an die Regierung kommt?“, fragen sie.
Dass es eine Handhabe gegen Desinformation braucht, damit nicht immer mehr Menschen die liberale Demokratie als ihren Feind sehen – das scheint für sie in diesem Moment keine Rolle zu spielen. Warum nicht? Ich bekomme Zweifel. Müssen wir Journalist:innen jeden Versuch staatlicher Einflussnahme strikt ablehnen? Was aber, wenn Untätigkeit zur Folge hätte, dass die Pressefreiheit womöglich bald Geschichte ist? Schon ein Blick nach Ungarn zeigt: Viktor Orbán hat die Menschen mit Propaganda auf seine Seite gebracht – und danach praktisch alle freien Medien erdrückt.
Einer von denen, die nach dem Podium auf mich zukommen, ist Oliver Money-Kyrle. Der Brite ist beim International Press Institute (IPI), einem weltweiten Medienverband, und dort für das Thema Pressefreiheit in Europa zuständig. Das IPI hat die Konferenz in Sarajevo organisiert.
„Das sind Befugnisse, die von künftigen Regierungen missbraucht werden können“, sagt Money-Kyrle einige Wochen später bei Zoom. Es gebe große Probleme, wenn der Staat definiere, was richtiger Journalismus sei. „Niemand tut das lieber als populistische Politiker, die all ihre journalistischen Kritiker verleumden.“ Ich denke an Donald Trumps Tiraden gegen die angeblichen „Fake News Media“. Mir erscheint plausibel, was Money-Kyrle sagt.
Anruf bei Landesmedienanstalt
Wie äußern sich die deutschen Medienanstalten selbst dazu? Seit fast vier Jahren dürfen sie nun Verstöße gegen die journalistische Sorgfaltspflicht ahnden. Welche Erfahrungen haben sie gemacht? Ein Anruf bei Christian Krebs, dem Direktor der Landesmedienanstalt in Niedersachsen.
„Staatsfern“ sei die Medienaufsicht, sie agiere unabhängig, das wolle er vorab sagen, sagt Krebs. Aber wie „staatsfern“ erscheint eine Behörde denen, die glauben, der Staat wolle ihnen den Mund verbieten? Und wie stellt sie fest, ob der „nach den Umständen gebotenen Sorgfalt“ genügt wurde?
Krebs betont, dass die Anstalten sehr bedacht mit dem Sanktionsmechanismus umgingen. Wenn etwas im Internet veröffentlicht werde, müsse eine Kommission aller 14 Landesmedienanstalten den Verstoß feststellen. Es gehe dabei weder um die Kontrolle von Meinungen noch von Wahrheit, sagt Krebs.
Zu sagen, dass man meint, das Gras sei blau, ist kein Verstoß. Meinungen seien geschützt, unabhängig davon, ob sie „richtig“ sind. Und jeder Inhalteanbieter sei frei zu entscheiden, wen er interviewe. Das lasse „Spielräume“. Es gebe „keine Schwarz-Weiß-Vorschrift, vieles ist Auslegungssache“.
Das ist gut, solange die Anstalt zurückhaltend vorgehen will. Aber was bedeutet es, wenn sie einst womöglich politisch in Stellung gebracht werden soll?
Das Instrument sei ein „sinnvoller Schritt, aber nicht der Weisheit letzter Schluss“, sagt Krebs. Etwa zehn Verfahren hätten die Medienanstalten im Jahr 2023 zur „journalistischen Sorgfaltspflicht“ bundesweit abgeschlossen. Man konzentriere sich auf „Player mit gewisser Relevanz“.
Im September etwa entschied die MABB, dass Nius 5.000 Euro wegen eines reißerischen Beitrags über Geflüchtete, die eine Zahnbehandlung bekommen hatten, zahlen soll. „Danke Deutschland!“ lautete der Titel, das Foto zeigte die drei mit breitem Lächeln und gehobenem Daumen. Der Vorwurf der MABB: Sie seien nicht ordnungsgemäß aufgeklärt worden, wer sie interviewte und wozu ihre Aussagen verwendet würden. Nius klagt dagegen.
Würde Oliver Money-Kyrle beruhigen, was der Justiziar Krebs sagt? Vermutlich kaum. Dem Staat solche Instrumente zu geben, bleibt mit Blick auf die Pressefreiheit ein Problem. Wie aber sonst soll die Fake-News-Flut sonst eingedämmt werden?
Mitte September werden im Berliner Innenministerium die Ergebnisse des Forums gegen Fakes vorgestellt. Bei dem Forum handelt es sich um einen Bürgerrat, den die Bertelsmann-Stiftung einberufen hatte. Marktforschungsunternehmen hatten dafür 120 „diverse“ Bewerber:innen aus dem ganzen Land ausgewählt. Neun Tage lang, zwischen März und Mai 2024, diskutierten sie, was gegen „Fakes und Manipulation von Informationen“ zu tun sei. Das Innenministerium wollte die Ergebnisse wenn möglich aufgreifen.
Im Juni lese ich auf X zum ersten Mal von dem Projekt. Die Kommentare sind kritisch. Von „sozialem und politischem Sprengstoff“ ist die Rede – die Meinungsfreiheit sei bedroht, heißt es. Der Bürgerrat definiere Desinformation über eine „gezielte Täuschungsabsicht“. Das sei „beliebig dehnbar“.
Anruf bei Bürgerrat-Organisatorin
Ich rufe die Organisatorin des Projekts an. Es ist Angela Jain, eine Expertin für Bürgerbeteiligung. Sie wirkt angeregt, geradezu beschwingt. Bei den Treffen sei „sehr kontrovers“ diskutiert worden, „oft blieb es bei unterschiedlichen Meinungen. Aber es wurde immer ein Kompromiss gefunden“, sagt sie. Es sei nicht so gewesen, dass da gar kein Dialog möglich gewesen sei, so Jain.
„Respektvoll, konstruktiv, lösungsorientiert“ – so seien die Treffen der Bürger:innen gelaufen. Das sei „ein sehr gutes Zeichen für die Zeiten, in denen wir gerade leben“. Denn vielleicht, so sagt Jain, zeige dies, dass die aggressive Stimmung, die in vielen Social-Media-Kanälen herrsche, „gar nicht so repräsentativ ist“.
Die Vorschläge des Rates werden, unter anderem über das Portal T-Online im Netz zur Diskussion gestellt. Es gibt über 420.000 Rückmeldungen, die in das finale Dokument einfließen. Ein Vorschlag lautet, dass eine unabhängige Stelle ein „Gütesiegel für qualitativen Journalismus“ vergeben soll. Mir erscheint das sinnvoll.
Warum sollte eine Institution wie der Presserat so etwas nicht vergeben können? Der Bürgerrat fordert zudem verbindliche Angebote zu Medienkompetenz in Schule und Erwachsenenbildung. Ist es nicht erstaunlich, dass Jugendliche, deren wesentlicher Weltzugang heute oft Tiktok ist, dazu praktisch nichts in der Schule erfahren?
Den Tech-Plattformen will der Bürgerrat 1 Prozent ihres Jahresumsatzes für den Kampf gegen Fake News abknöpfen lassen. Der Rat schlägt eine Prüfung von Social-Media-Posts durch künstliche Intelligenz vor. Beiträge, die „bedenklich“ erscheinen, sollen zurückgehalten werden, bis Plattform-Mitarbeiter:innen sie „final prüfen“.
Faeser sieht ein Gütesiegel skeptisch
Die Vorschläge werden in einem holzgetäfelten Saal im Bundesinnenministerium vorgestellt. Etwa 200 Menschen sind gekommen, Kameras sind aufgebaut, ein Buffet. Innenministerin Nancy Faeser (SPD) kommt etwas später, sie hat sich verletzt, läuft auf Krücken. Dann sitzt sie mit einigen der Bürger:innen auf dem Podium.
Der Kampf gegen Desinformation sei „Schutz unserer Demokratie“, sagt Faeser. „Fremde Staaten, insbesondere Russland, versuchen mittels Desinformation und Propaganda das Vertrauen der Bevölkerung in unser demokratisches System und seine Institutionen zu untergraben.“ Deshalb begrüße sie die Arbeit des Rates. Skeptisch sehe sie aber das vorgeschlagene Gütesiegel. Die Pressefreiheit sei ein hohes Gut. „Da würde ich mich als Staat nie einmischen“, sagt Faeser.
Das Ministerium, das den Bürgerrat unterstützte, will regulieren. Viele der Vorschläge des Rates decken sich mit Überlegungen der Ampel. Doch in Faesers Haus ist allen klar, wie heikel das Thema ist. Und zu sehr steckt dem Ministerium noch in den Knochen, dass das im Juli verhängte Verbot des Compact-Verlags vom Bundesverwaltungsgericht vorläufig wieder ausgesetzt wurde.
Nach der Veranstaltung dauert es nur wenige Stunden und das Thema explodiert regelrecht. Medien berichten über die Veranstaltung im Ministerium und „Bürgerrat“ wird zum „Top-Trend“ auf X. Tausende schreiben Kommentare, der Tenor ist weitgehend derselbe. Die Welt spricht von „Bürgerverrat“, andere reden gleich von „DDR 2.0“, „Gesinnungsdiktatur“, „betreutem Denken“. „Mit Hilfe eines Bürgerrates planen die Grünen die totale Zensur“, giftet Nius. „Desinformation ist alles, was die Mächtigen nicht hören wollen, was ihre Macht und das ungestörte Regieren der links-grünen Eliten gefährden könnte.“
Der Bürgerrat steht nun als Versuch der Ampel da, ihrem Kampf gegen die Fake News ein demokratisches Mäntelchen umzuhängen. Es ist ein Lehrstück über die Wucht von Desinformationskampagnen. Wer in den zorntriefenden Social-Media-Timelines über den Bürgerrat liest, muss diesen unweigerlich für einen infamen Versuch halten, den Leuten den Mund zu verbieten. Der Unterschied zu dem nüchternen Ton des Gutachtens, in dem bedenkenswerte Vorschläge für ein offenkundiges Problem gemacht werden, könnte größer kaum sein.
Welche Chance haben solche Beteiligungsmodelle, wenn sie so rasend schnell in Misskredit gebracht werden können? Als Menschen sich noch vorwiegend aus den TV-Nachrichten und einer Regionalzeitung informiert haben, wären solche Kampagnen unmöglich gewesen. Die „Amplifikation“, also die Möglichkeit zur Verstärkung durch soziale Medien, macht die demokratische Aushandlung immer schwieriger. Wie soll so Klima- oder Migrationspolitik noch rational diskutierbar sein?
Desinformationsexpert:innen treffen sich
Zwei Wochen später. Die Bertelsmann-Stiftung hat Desinformationsexpert:innen aus der ganzen Welt zu einer Konferenz in ihre Repräsentanz an der Straße Unter den Linden in Berlin eingeladen. Ich treffe dort Angela Jain, die Organisatorin des Bürgerrats, wieder. Sie sei zum Glück die letzten Tage in Vancouver gewesen, sagt sie. Es soll ein Scherz sein. Dann wird sie ernst. Man müsse die Kritik aushalten, sie „mal so stehen lassen“. Das Ganze sei „eben nicht nur ein Wohlfühlthema“. Das Forum habe offensichtlich „vieles hochgebracht, was so da war, unter der Oberfläche“.
Am Ende spricht Daniela Schwarzer, die Vorständin der Stiftung. Sie benutzt eine interessante Formulierung. Der Kampf gegen Fake News diene einer „gesunden“ Öffentlichkeit. Ist das eine sinnvolle Beschreibung des Problems – eine Pathologisierung gesellschaftlicher Kommunikation? Ist sie also etwas, das geheilt werden muss? Und wenn ja – wer sind die Kranken, wer die Gesunden? Und was wäre die Therapie? „Desinformation tötet“, auch dieser Satz fällt an diesem Tag.
„Trusted Flagger“ im Visier
In den folgenden Tagen kocht das Thema weiter hoch. Die Trusted Flagger machen nun Schlagzeilen. Die Bundesnetzagentur hat begonnen, den eingangs erwähnten Digital Services Act umzusetzen. Der sieht unter anderem vor, dass die Medienbehörden Trusted Flagger ernennen können. Es handelt sich um zertifizierte Stellen, die unzulässige Inhalte an die Plattformen melden können. Diese Meldungen müssen unverzüglich geprüft, Inhalte gegebenenfalls gelöscht werden. Sonst werden die Plattformen bestraft.
Die „Bundesregierung, mal wieder angeführt von der Grünen Partei, hat der Meinungsfreiheit den totalen Krieg erklärt“, heißt es dazu jetzt etwa bei Nius. „Missliebige Meinungen“ würden beim Kampf gegen Fake News nur als Folge von Verführung begriffen, und nicht als „Unzufriedenheit oder überlegter Wille“. Die „unkontrollierte Migration und die neue Zensur in unserem Land scheinen sich zu bedingen. Je mehr Menschen nach weniger Migration rufen, desto mehr Politiker rufen nach weniger Meinungsfreiheit“, so Nius – als ob die Rufe nach „weniger Migration“ von der Politik übergangen würden.
Wer Trusted Flagger sein will, kann sich bei der Bundesnetzagentur um diesen Status bewerben. Anfang Oktober erhält Respect!, eine zivilgesellschaftliche Anlaufstelle gegen Hass im Netz aus Baden-Württemberg, als erste diesen Status. Den Leiter, Ahmed Gaafar, beschimpft Nius als „Deutschlands obersten Zensor“ – und rückt ihn in die Nähe des Islamismus. Die Bundesnetzagentur veröffentlicht eine Pressemitteilung – und ändert sie gleich wieder. Es habe sie „berechtigte Kritik erreicht“, schreibt sie. Die Trusted Flagger sollten „illegale Inhalte, illegalen Hass und illegale Fake News“ melden. In der ursprünglichen Fassung ihrer Mitteilung fehlte das Wort „illegal“. „Wir haben den Text präzisiert“, schreibt die Agentur.
Genau das aber glauben ihr viele nicht. Die Liste der Inhalte, die die Trusted Flagger melden können, kursiert im Netz. Bei allen 15 Kategorien – etwa „negative Auswirkungen auf den zivilen Diskurs“ – steht neben konkreten Beispielen auch „anderes“. Die Liste sei bodenlos und keineswegs auf illegale Inhalte beschränkt, heißt es. Sie ermögliche auch zu melden, was etwa vage als „diskriminierend“ gelte – der woken „Zensur“ würden alle Türen geöffnet. Und wer gegen die Löschung seiner Inhalte vorgehen wolle, müsse ein langwieriges Verfahren auf sich nehmen.
Bundesnetzagentur weist Anwürfe zurück
Ich frage die Bundesnetzagentur. Sie weist die Anwürfe zurück. Die Meldungen müssten sich auf „mutmaßlich rechtswidrige Inhalte beziehen“, antwortet sie. Aber warum tauchen dann so unbestimmte Formulierungen wie „negative Auswirkungen auf den zivilen Diskurs“ auf? Das könnten etwa „Gewalt- oder Mordandrohungen“ gegen Politiker sein, wenn diese sich deshalb aus dem öffentlichen Diskurs im Netz zurückziehen, so die Agentur.
Besonderen Anstoß nehmen viele daran, dass auch „Hassrede“ gemeldet und gelöscht werden kann. Denn Hassrede an sich ist nicht im Strafgesetzbuch definiert. Die Agentur sagt, Hassrede sei „nicht zwangsläufig strafbar“, könne dies aber etwa als Beleidigung, üble Nachrede oder Volksverhetzung sein. Doch in einer Übersicht der CSU-nahen Hanns-Seidel-Stiftung etwa, auf die das bayrische Familienministerium verweist, werden selbst „unsachliche und aufbrausende Diskussionsbeiträge“ als „Hassrede“ eingestuft.
Die Grenze zwischen Meinungen, die man auszuhalten hat, und Hetze, gegen die eine Demokratie sich besser heute wehrt, um morgen noch zu existieren, ist kaum scharf zu ziehen. All das, so fürchten nun manche, könnte dazu führen, dass die Plattformen großzügig löschen, was gemeldet wird, und Nutzer:innen im Zweifel klagen müssen.
Diese Sorge rührt auch daher, dass der Verfassungsschutz 2021 einen unscharfen neuen Phänomenbereich namens „Delegitimierung des Staates“ eingeführt hat. Merkmal dafür ist die „systematische Verunglimpfung und Verächtlichmachung“. Im einzelnen kritikwürdige Zustände würden „bewusst entstellt“, die Einrichtungen des Staates diffamiert, sodass der Eindruck entstehe, „Ursache der Missstände sei letztlich die untaugliche Grundordnung selbst“.
Text bei Russia Today Deutsch
Den ersten größeren Text, den ich dazu lese, hat eine deutsche Journalistin ausgerechnet bei Russia Today Deutsch geschrieben – dem in der EU verbotenen Staatsmedium Russlands. Das zeigt die Vertracktheit: Der Westen wird als autoritär hingestellt, wenn er versucht, sich gegen jene zu wehren, die mit einer klar autoritären Agenda den liberalen Westen zerstören wollen.
Die Verfassungsschutzdefinition ist eine vollkommen zutreffende Beschreibung dessen, was Rechtsextreme und Populist:innen heute tun, um den „Mainstream“ in Misskredit zu bringen. Aber so droht unter staatliche Sanktionierung zu fallen, was bisher von der Redefreiheit gedeckt war. Und ausgerechnet der Inlandsgeheimdienst nimmt sich des Themas an. Als „Delegitimierer“ lassen sich, dazu braucht es nicht viel Fantasie, Kritiker:innen je nach politischer Präferenz leicht ins Visier nehmen.
Nachdem Regierungen lange wenig gegen Desinformation getan und allenfalls auf Selbstverpflichtungen gesetzt haben, verschärft sich nun die Gangart. Im September kommt in Frankreich der Telegram-Gründer Pawel Durow vorübergehend in Haft. In Brasilien wird X gesperrt. Wer sich heute in Deutschland neu auf X registriert, kriegt per Voreinstellung Tweets von Rechtsextremen zu sehen. Auf einen Beschwerdebrief des damaligen EU-Digitalkommissars Thierry Breton an Elon Musk antwortete der im September nur: „Fuck You in the face.“
In Großbritannien will die Regierung ihren Online Safety Act verschärfen, wie eine Sprecherin des Technologieministeriums mir sagt. In den USA kündigte die Demokratische Partei an, die Verfassung ändern zu wollen, um gegen Desinformation vorzugehen. Elon Musk verbreitete die Behauptung, dies diene dazu, Wahlen abzuschaffen und eine Diktatur zu errichten.
Andere Plattformen sind eher bereit, gegen Fake News vorzugehen. „Wir definieren einen außerdemokratischen Raum“, sagt Lutz Mache von Google. Und wer sich darin bewege, wird nicht mehr ohne Weiteres über die Suchmaschine zu finden sein. Meta etwa hat die Agentur AFP, Correctiv und auch Faktograf beauftragt, Desinformation zu markieren. Doch Faktenchecker müssen sich gegen den Vorwurf wehren, „Propagandaorgane“ (Tichys Einblick) oder Instrumente zur „Reproduktion eines bestimmten Weltbildes“ (Welt) zu sein.
Faktenchecker:innen auf Todeslisten
Im Januar reise ich mit zwei Kolleg:innen aus der taz nach Wien. Mit dem International Press Institute (IPI) und Faktograf planen wir eine gemeinsame Recherche zu Desinformation während des Wahljahres 2024. Mit dabei ist auch Ana Brakus. Wir sitzen in einem Raum des IPI, mit Blick auf den Stephansdom, und Brakus erzählt, wie ihre Kolleg:innen auf der Todesliste eines rechten Terroristen landen oder Lokalpolitiker vor der Redaktion aufmarschieren. Faktenprüfer:innen wie Brakus halten sich an transparente Kriterien, die etwa Meta aufgestellt hat. Und dennoch ist ihr Job gefährlich.
Von einer „wehrhaften Demokratie“ im Digitalen ist nun öfter die Rede, davon, dass der Digital Services Act „robust“ angewandt werden soll. Oder von „milliardärssicherer Kommunikation“ – dass also Superreiche nicht mehr einfach Plattformen kontrollieren können. Die Widerstände dagegen werden enorm sein. Und für die Gesellschaft kann es riskant sein, Desinformation über staatliche Regulierung einzudämmen.
Was die Akzeptanz der Demokratie bewahren soll, kann sie weiter untergraben. Wer heute juristisch gegen Fakes und Hetze aufrüstet, macht es möglichen autoritären Regierungen der Zukunft leicht, gegen „Delegitimierer“ oder vermeintliche „Radikale“ vorzugehen. Aber ohne Regulierung und Wehrhaftigkeit wird es nicht gehen. Die extreme Rechte hat ihre Strategie offen benannt: „Flood the zone with shit“, immer wieder, bis niemand mehr dem „Mainstream“ irgendwas glaubt. Die Technik macht es leicht, den Shit im Abo an Hunderte Millionen Köpfe zu schicken. Es wird ein Kombi-Präparat dagegen brauchen, das ohne Nebenwirkungen nicht zu haben sein wird.
taz lesen kann jede:r
Als Genossenschaft gehören wir unseren Leser:innen. Und unser Journalismus ist nicht nur 100 % konzernfrei, sondern auch kostenfrei zugänglich. Texte, die es nicht allen recht machen und Stimmen, die man woanders nicht hört – immer aus Überzeugung und hier auf taz.de ohne Paywall. Unsere Leser:innen müssen nichts bezahlen, wissen aber, dass guter, kritischer Journalismus nicht aus dem Nichts entsteht. Dafür sind wir sehr dankbar. Damit wir auch morgen noch unseren Journalismus machen können, brauchen wir mehr Unterstützung. Unser nächstes Ziel: 40.000 – und mit Ihrer Beteiligung können wir es schaffen. Setzen Sie ein Zeichen für die taz und für die Zukunft unseres Journalismus. Mit nur 5,- Euro sind Sie dabei! Jetzt unterstützen
meistkommentiert
Nan Goldin in Neuer Nationalgalerie
Claudia Roth entsetzt über Proteste
Politikwissenschaftlerin über Ukraine
„Land gegen Frieden funktioniert nicht“
Scholz und Pistorius
Journalismus oder Pferdewette?
taz-Recherche zu Gewalt gegen Frauen
Weil sie weiblich sind
Krieg in der Ukraine
Geschenk mit Eskalation
Krieg in der Ukraine
Kein Frieden mit Putin