Wahre Polinnen aus KI

Der Kanal Prawilne Polki verbreitete Videos von jungen Pol:innen, die sich für einen Austritt Polens aus der EU starkmachten. Wahrscheinlich sind diese Videos KI-generiert. Wieso funktionieren sie so gut?

Polnische Patriotinnen vom Kanal Prawilne Polki Foto: tiktok@computer.swiat.pl; Montage: taz

Von Anastasia Zejneli

Links auf dem T-Shirt der Adler, rechts die weiß-rote Flagge. Auf Tiktok sprachen Ende des Jahres junge normschöne Polinnen über ihre Unzufriedenheit mit der polnischen Politik. Die Videos wurden auf dem Kanal Prawilne Polki veröffentlicht. Das große Thema: ein polnischer Austritt aus der Europäi­schen Union, der sogenannte Polexit.

„Ich erinnere mich nicht an ein Polen vor der EU, aber ich will den Polexit, auch wenn es teurer wird, weil ich Entscheidungsfreiheit will“, spricht eine braunhaarige junge Frau in die Kamera. „Ja, ich will den ­Polexit, genug davon, dass Polen von Brüssel aus regiert wird, genug davon, dass uns Angst gemacht wird, wir würden es ohne Zustimmung von außen nicht schaffen“, erklärt eine andere Frau. Keine von ihnen kommt ein zweites Mal auf dem Kanal vor. Die Seite ist mittlerweile gelöscht, in nur wenigen Tagen erreichte sie mehrere Tausend Nut­zer*in­nen, doch die Videos und die jungen Frauen waren KI-generiert. Res Futura, eine europäische Stiftung, die sich mit Informationssicherheit aus­einandersetzt, machte als eine der Ersten auf die Videos aufmerksam. Laut einem X-Beitrag geht sie davon aus, dass die Inhalte mithilfe künstlicher Intelligenz erstellt wurden. Die Videos sollten sich gezielt an ein junges Publikum richten.

Doch welche Rolle spielen junge Frauen bei der Erstellung von KI-Inhalten, und wie versuchen Ak­teu­r:in­nen mithilfe von Fakevideos und Desinformation die polnische Gesellschaft zu beeinflussen?

Laut der polnischen Faktencheckseite Konkret24 wurde ein bestehender Tiktok-­Account Mitte Dezember in Prawilne Polki umbenannt. Übersetzt bedeutet der Name „wahre“ oder auch „anständige Polinnen“. Dazu kam auch eine neue Beschreibung: „Hier sagen schöne polnische Mädchen offen ihre Meinung und, was sie denken.“ Aleksandra Wójtowicz forscht zu Desinformation und Cybersicherheit am Polnischen Institut für Auswärtige Angelegenheiten. Für sie handelt es sich bei Prawilne Polki, trotz des Namens, ganz klar um KI-generierte Videos. „Die Videos sind sehr günstig produziert. Anhand der Stimme, die künstlich wirkt und nicht ganz zu den Mundbewegungen passt, kann man erkennen, dass es sich nicht um ­reale Frauen handelt.“ Das Gefährliche dabei: Es gebe Personen, die solche Unterschiede nicht mehr erkennen, warnt sie. Die Videos seien bedrohlich, weil sie Menschen beeinflussen könnten, auch wenn sie eher schnell und günstig erstellt worden seien.

Zudem werde es immer schwieriger, „mit bloßem Auge zu erkennen, ob es sich um KI-generierte Inhalte handelt“, sagt Mateusz Łabuz. Er beschäftigt sich mit internationaler Cybersicherheit am Institut für Friedensforschung und Sicherheitspolitik. Man könne KI-Erkennungssoftware nutzen, doch auch die könne nicht zu hundert Prozent KI-generierte Inhalte von realen Videos und Fotos unterscheiden. Im Fall des polnischen Tiktok-Kanals wurde ein Video im Nachhinein von Tiktok als „KI-generiert“ gekennzeichnet, kurz vor der Löschung.

Tiktok hat nicht nur Prawilne Polki Anfang des Jahres entfernt, sondern auch, laut Wójtowicz, alle Videos entfernt, die im vergangenen halben Jahr mit dem Hashtag Polexit gekennzeichnet wurden. „Es ist fast schon lustig, erst machen sie nichts, und jetzt löschen sie alles“, sagt sie. Daher sei es für die Analystin auch schwieriger herauszufinden, was zuvor zu dem Thema auf Tiktok gepostet wurde und wer in den Videos vorkam.

Dass junge Frauen für die Verbreitung von rechtem bis extrem rechtem Gedankengut im Internet genutzt werden, ist nicht neu. Bereits während des Präsidentschaftswahlkampfs in Polen im Frühjahr 2025 gab es KI-generierte Bilder von Un­ter­stüt­ze­r*in­nen rechts außen stehender Kandidaten.

Besonders viel Aufmerksamkeit erhielt ein KI-Bild, das Frauen bei einem Junggesellinnenabschied zeigen soll. In der Mitte des Gruppenfotos halten sie ein Banner mit dem Namen des damaligen Kandidaten und heutigen Präsidenten Karol Nawrocki. Doch die linke Hand einer Frau verschmilzt mit ihrem Kleid – ein Indikator dafür, dass es sich um ein generiertes Bild handelt. Besonders bei Händen und Fingern kommt es häufig zu Problemen mit KI-generierter Software.

Sowohl 2025 als auch an der Parlamentswahl 2023 haben sich mehr Frauen als Männer beteiligt. Sie wählten progressiver, sind aber über mehrere Wahlperioden auch unbeständiger in ihrem Wahlverhalten. Daher versuchen PiS und Konfederacja in Polen seit Jahren verstärkt Frauen anzusprechen. Videos wie diese sollen dabei helfen, sagt Łabuz. „Attraktive, selbstbewusste junge Frauen, die über Souveränität und ­Polexit sprechen – das normalisiert die Forderung nach einem EU-Austritt.“ Da höre man als Nut­ze­r*in eher zu und nehme die Videos als harmlosen Content wahr.

Doch die KI-Frauen sollen auch junge Männer ansprechen, die bereits mit rechten Inhalten sympathisieren. Diese sind auch die Kernwählerschaft der polnischen Konfederacja. „Wenn junge Männer normschöne Frauen sehen, die über ihre Zukunftsängste und Träume in einem starken Polen reden, dann spricht sie das an“, sagt Łabuz. Ganz bewusst wurden daher auch die Details auf den T-Shirts der Frauen platziert. „Patriotische Frauen sind cool“, sei das Motto.

Doch wer steckt hinter den KI-Videos? „Natürlich würden einige Leute sagen, es ist ganz bestimmt Russland, aber wir finden, dass die Zuordnung dieser Videos sehr schwierig ist – vor allem, weil es nur wenige gab, sie nur auf Tiktok stattfanden und schnell gelöscht worden sind“, sagt Wójtowicz.

Auch wenn es bei diesem konkreten Beispiel keine klare Rückverfolgung geben kann, gibt es eindeutig Fälle, in denen Russland versucht, die Meinungen der polnischen Gesellschaft mit gezielten Desinformationskampagnen zu beeinflussen.

Ein russischer Angriff

Einer dieser Fälle ist die „Operation Doppelgänger“, die vermutlich im Februar 2022 begann. Dabei nutzt Russland laut einer Analyse des EU-­DisinfoLab-Teams Klone von legitimen Websites und Netzwerke, etwa Medienhäuser, um antiukrainische Narrative zu verbreiten. Die Kampagne war nicht nur in Polen, sondern unter anderem auch in Deutschland, Frankreich und den USA aktiv.

Laut Wójtowicz wird es in Zukunft außerdem mehr ­hybride russische Angriffe geben wie zum Beispiel die Verletzung des polnischen Luftraums im Herbst 2025. Kurz vor dem Vorfall am 9. September hätten Social-Media-Accounts mit einer großen Reichweite, die dafür bekannt sind, russische Desinformation zu verbreiten, Posts über angebliche Provokationen aus der Ukraine veröffentlicht. Sie gingen davon aus, dass die Ukraine plane, Polen in den Krieg einzubeziehen.

Dazu kommen Inhalte, die ukrainische Geflüchtete in Polen diskreditieren sollen. So wird etwa verbreitet, dass Wohnkomplexe nur für Ukrainerinnen gebaut würden oder ukrainische Soldatinnen einen einfacheren Zugang zu Ärz­t*in­nen hätten. Letzteres thematisierte das polnische Gesundheitsamt in einem Meta-Post im Herbst 2025 und warnten vor einer Manipulation durch Russland.

Neben der Migration aus der Ukraine gehörten auch antieuropäische Inhalte zu den am meisten verbreiteten Narrativen, sagt Wójtowicz. „Ich nehme an, dass die Videos der KI-Frauen als Vorbereitung einer größeren Kampagne vor den bevorstehenden Parlamentswahlen im Jahr 2027 dienen sollten.“ Dass es sich nur um ein Konto und den Fokus auf eine Plattform handele, spreche dafür.

Bereits jetzt steigt laut Umfragen der Frust der Po­l*in­nen wegen der Europäischen Union. Eine Befragung von Ende Dezember kommt zu dem Ergebnis, dass knapp ein Viertel der Befragten die EU verlassen will. Viele der stark diskutierten Themen, zum Beispiel die Migrations- oder Agrarpolitik, hängen mit der EU zusammen, sodass einige Bür­ge­r:in­nen offener für antieuropäische Desinformation sind.

Dariusz Standerski, Staatssekretär im polnischen Ministerium für Digitalisierung, hat Ende Dezember in einem offenen Brief an die EU-Kommission ein Verfahren gegen Tiktok aufgrund der Verbreitung von KI-Inhalten beantragt. Aleksandra Wójtowicz unterstützt den Schritt der Regierung. Sie sagt jedoch auch, dass noch einiges nachzuholen sei: „Der beste Anfang wäre, das Gesetz über digitale Dienste zu verabschieden. Das haben wir als letztes EU-Land noch nicht getan.“ Dieses Gesetz ist aktuell das stärkste Werkzeug der EU zur Regulierung von Plattformen. Pro­ble­matisch sei, dass der polnische Präsident das bisher abgelehnt habe. „Aber die Tatsache, dass er erst jetzt sein Veto einlegen konnte, liegt auch in der Verantwortung der Regierung, denn länger als ein Jahr war sie nicht in der Lage, einen Gesetzentwurf zur Umsetzung vorzubereiten.“

Sie wünscht sich außerdem, dass mehr in den Informa­tions­austausch zwischen verschiedenen Ländern investiert wird. Russische Desinformationskampagnen beträfen oft mehrere EU-Länder. Sollte man ­herausfinden können, wer einzelne Kampagnen finanziere, müsse die EU Sanktionen beschließen.