KI-Deepfakes von Frauen auf X: Sexualisierte Gewalt als Feature
Elon Musks Chatbot Grok erstellt auf X sexualisierte Bilder realer Frauen – und von Kindern. Dahinter steckt ein neues System digitaler Gewalt.
E s ist eine neue Infrastruktur der Gewalt, die gerade auf X entsteht: Nutzer verwenden Elon Musks Chatbot Grok, um Bilder realer Frauen zu manipulieren und Szenarien sexualisierter Gewalt zu erzeugen. Vergewaltigungsdarstellungen, Entführungen, Tötungsfantasien. Diese Gewalt wird öffentlich produziert, geteilt, kommentiert, in einer Atmosphäre spielerischer Normalität.
Eine Untersuchung der europäischen Organisation AI Forensics belegt: Es handelt sich nicht um Einzelfälle, sondern um ein strukturelles Phänomen. Über 80 Prozent der identifizierten Accounts waren männlich. Mehr als die Hälfte der Bilder, die Grok generierte, zeigten Menschen in freizügiger Kleidung, rund 80 Prozent davon Frauen. Sexualisierung ist kein Nebeneffekt, sondern systematische Praxis.
Während die deutsche Justizministerkonferenz im November selbst mehrheitlich ablehnte, heimliche voyeuristische Aufnahmen bekleideter Körperpartien unter Strafe zu stellen – das Strafrecht sei keine „Supermoralinstanz“, erklärte Sachsens Justizministerin Constanze Geiert (CDU) – ist die technologische Realität längst weiter. Auf X braucht es keine heimlichen Aufnahmen mehr. Frauen werden einfach mit KI-Assistenz vergewaltigt, gefoltert, ermordet. In hochauflösender Qualität. Auf Bestellung.
Das ist keine Deepfake-Pornografie im herkömmlichen Sinn. Die KI wirkt als aktive Assistenz bei der Visualisierung von Gewalt. Nutzer formulieren präzise Anweisungen: verängstigte Gesichtsausdrücke, sichtbare Verletzungen, Zwangssituationen. Und Grok liefert.
Gewalt inszeniert als Kreativakt
Der Sozialpsychologe Rolf Pohl hat in „Feindbild Frau“ (2004) einen männlichen Gewalthabitus beschrieben – die strukturelle Verfügungsgewalt über weibliche Körper als Grundlage männlicher Identität. Was er theoretisch analysierte, wird hier technologisch perfektioniert und industrialisiert.
Gewaltfantasien gegen Frauen wirken laut Pohl für viele Männer identitätsstiftend. Der spielerische Ton, in dem diese Gewalt auf X verhandelt wird, ist kein Widerspruch. Die digitale Arena verwandelt Fantasien in kollektive Praxis. Nutzer überbieten sich in der Brutalität ihrer Prompts, inszenieren Gewalt als Kreativakt.
Besonders alarmierend: Diese Gewalt macht nicht vor Kindern halt. In zwei Prozent der von AI Forensics untersuchten Fälle erzeugte Grok Bilder von Personen, die als minderjährig eingeschätzt wurden. 30 Bilder zeigten sexualisierte Darstellungen von Kindern, darunter Mädchen unter fünf Jahren. Grok ist damit faktisch ein Werkzeug offen zugänglicher Pädokriminalität.
Noch absurder: Nachdem Grok sexualisierte Bilder minderjähriger Mädchen erzeugt hatte, entschuldigte sich der Chatbot selbst. Nicht Elon Musk, nicht die Entwickler, nicht die Plattform X, sondern die Software. Diese Entschuldigung ist Ausdruck systematischer Verantwortungsdiffusion. Die KI wird als handelndes Subjekt inszeniert, um menschliche Verantwortung zu verschleiern.
EU-Kommission zwischen Untätigkeit, Verharmlosung und Weigerung
Am 5. Januar 2026 erklärte die EU-Kommission, man nehme die Beschwerden sehr ernst und verwies auf Digital Services Act und EU AI Act. Einige Tage später leitete sie eine Untersuchung ein und wies die Plattform an, Dokumente zu Grok bis zum Jahresende aufzubewahren. Ansonsten bleibt es bislang bei Stellungnahmen. Keine Sanktionen, keine Abschaltung, keine Konsequenzen. Die Gewalt findet jetzt statt, die Regulierung reagiert im Konjunktiv.
So entsteht eine gefährliche Lücke zwischen normativer Ablehnung und faktischer Duldung. Plattformen lernen, dass selbst schwerste Formen digitaler Gewalt keine unmittelbaren Folgen haben. Regulierung ohne Durchsetzung ist keine Regulierung, sondern politische Untätigkeit.
Was hier entsteht, ist keine Fehlfunktion einzelner Tools. Es ist eine bewusst geschaffene Gewaltinfrastruktur, die durch KI skalierbar, automatisiert und niedrigschwellig verfügbar wird. Die Frage ist, wann die EU-Kommission und die nationalen Regulierungsbehörden begreifen, dass sie längst Teil des Problems sind – durch Untätigkeit, durch Verharmlosung, durch die Weigerung, digitale Gewalt als das zu behandeln, was sie ist: Gewalt.
Gemeinsam für freie Presse
Als Genossenschaft gehören wir unseren Leser:innen. Und unser Journalismus ist nicht nur 100 % konzernfrei, sondern auch kostenfrei zugänglich. Alle Artikel stellen wir frei zur Verfügung, ohne Paywall. Gerade in diesen Zeiten müssen Einordnungen und Informationen allen zugänglich sein. Unsere Leser:innen müssen nichts bezahlen, wissen aber, dass kritischer, unabhängiger Journalismus nicht aus dem Nichts entsteht. Dafür sind wir sehr dankbar. Damit wir auch morgen noch unseren Journalismus machen können, brauchen wir mehr Unterstützung. Unser nächstes Ziel: 50.000 – und mit Ihrer Beteiligung können wir es schaffen. Setzen Sie ein Zeichen für die taz und für die Zukunft unseres Journalismus. Mit nur 5,- Euro sind Sie dabei! Jetzt unterstützen
meistkommentiert