Juristin über Deepfakes: „Wir haben ein massives Durchsetzungsproblem“
Der Fall Fernandes sei untypisch für die Opfer digitaler Gewalt, sagt die Juristin Petra Sußner. Nun gelte es, die Aufmerksamkeitskonjunktur zu nutzen.
taz: Frau Sußner, das Europaparlament hat am Donnerstag für ein Verbot von KI-Anwendungen gestimmt, die sexualisierte Bilder und Porno Deepfakes ohne Einwilligung erstellen. Wie bewerten Sie diesen Schritt?
Petra Sußner: Es scheint mir grundsätzlich ein sinnvoller Schritt. Denn wir müssen Schutzlücken schließen. Neben dem Chatbot Grok von Meta, gibt es weitere Apps, mit denen es sehr einfach ist sexualisierte KI-Bilder zu erstellen. Die Anwendung zu verbieten, ist ein guter Schritt. Aber wir sollten uns nicht der Illusion hingeben, dass damit das Problem gelöst ist. Denn es sind gesellschaftliche Rahmenbedingungen, die das möglich machen. Ich glaube, Prävention kann nur mit dem funktionieren, was durch Gisèle Pelicots Satz groß geworden ist: „Die Scham muss die Seite wechseln.“ Es braucht Sensibilisierung, Problembewusstsein, Aufklärung und vor allem Unterstützung beim Zugang zum Recht für Betroffene. Wenn wir das nicht haben, ist eine Verschärfung des Strafrechts möglicherweise nur ein begrenzt wirksamer Schritt. Die präventiven Effekte des Strafrechts sind, wie wir aus der Kriminologie wissen, überschaubar.
hat die Gastprofessur für Recht, insbesondere Geschlechterfragen im Recht an der Hochschule für Wirtschaft und Recht (HWR) Berlin inne und leitet gemeinsam mit Mischa Hansel das Lehrforschungsprojekt „Resilienz zivilgesellschaftlicher Organisationen gegenüber digitaler Gewalt“, gefördert durch „Zukunft findet Stadt.“
taz: In Deutschland will Justizministerin Stefanie Hubig Haftstrafen von bis zu zwei Jahren für die Erstellung und Verbreitung von Deepfakes einführen und Täter-Accounts sperren. Wie arbeiten EU-Ebene und Mitgliedsstaaten zusammen?
Sußner: Die EU setzt vor allem den Rahmen. Ein zentrales Instrument ist der Digital Services Act, eine Verordnung, die unmittelbar gilt. Das halte ich auch für sinnvoll, weil wir es mit international agierenden Plattformen zu tun haben. Daneben gibt es die Gewaltschutzrichtlinie, die bis Juni nächsten Jahres von den Mitgliedsstaaten umgesetzt werden muss. Darin ist zum Beispiel vorgesehen, dass bestimmte Formen digitaler Gewalt wie Cyberstalking oder das Verbreiten von Deepfakes strafbar sein müssen. Spannend ist, dass diese Richtlinie einen ganzheitlicheren Ansatz verfolgt. Sie beschränkt sich nicht nur auf das Strafrecht, sondern umfasst auch Zugang zu Recht, Studien, Prävention. Das Strafrecht selbst liegt aber überwiegend in nationaler Zuständigkeit. Das heißt: Die konkrete Ausgestaltung passiert auf Ebene der Mitgliedstaaten.
taz: Seit einer Woche spricht Deutschland über den Fall Fernandes. Wie nehmen Sie die Debatte wahr?
Sußner: Ambivalent. Ich habe das Gefühl, dass das Thema digitale Gewalt oder das Sprechen darüber von zwei Komponenten geprägt ist: einerseits von einem verständlichen Bedürfnis nach einfachen Lösungen, die ganz oft das materielle Strafrecht betreffen, und zum anderen von Aufmerksamkeitskonjunkturen. Und ich glaube, wir sind gerade in so einer Aufmerksamkeitskonjunktur drinnen. Ich glaube, dass die Suche nach einfachen Lösungen und auch diese Aufmerksamkeitskonjunktur ein gemeinsames Problem haben: die Gefahr, dass wir uns die schwierigen Fragen nicht stellen. Oder dass wir Fragen vermeiden, die komplexer sind. Zum Beispiel: Was sagt uns das, was hier passiert, über den Zustand unserer Gesellschaft und darüber, wie die Rechtsordnung darin eingebunden ist?
Gerade vor zwei Tagen habe ich mit meinem Projektkollegen Mischa Hansel gesprochen und er hat am Ende gemeint: „Der Fall ist erst dann groß geworden, als er untypisch geworden ist.“ Der Gedanke hat etwas. Normalerweise ist der Täter unbekannt, die betroffene Person ist unbekannt und der Zugang zu Recht extrem erschwert. Dieses Grundrauschen digitaler Gewalt, die Normalisierung, dass man nichts tun kann, ist problematisch. Jetzt haben wir einen untypischen Fall: Es gibt eine Idee, wer der Täter ist, und eine bekannte betroffene Person. Und die Aufmerksamkeit ist da. Die Frage ist nun: Was bedeutet das für die Vielzahl der Fälle? Was tun wir mit der Gefahr, ganze – gewaltbetroffene – Bevölkerungsteile in der digitalen Öffentlichkeit zu verlieren?
taz: Sind wir in Deutschland bei der juristischen Verfolgung solcher Fälle zu spät?
Sußner: Wir haben ein massives Durchsetzungsproblem oder ein massives Problem mit Zugängen zu Recht. Die BKA-Berichte zeigen, dass digitale Gewalt in den letzten fünf Jahren um über 100 Prozent zugenommen hat. Gleichzeitig zeigt die Dunkelfeldstudie des Justizministeriums, dass im digitalen Bereich nur etwa 2,5 Prozent der Fälle angezeigt werden. Das heißt, dass die Delikte massiv steigen, aber viele Betroffene haben nicht die Ressourcen, dagegen vorzugehen weder ökonomisch noch psychosozial. Wenn man betroffen ist, gibt es im Prinzip drei Wege: erstens das Strafrecht, zweitens das Zivilrecht und drittens die Plattformverantwortlichkeit. Im Strafrecht stellt sich zunächst die Frage, ob das Verhalten überhaupt strafbar ist. Viele Phänomene, etwa Deepfakes, sind bisher nicht vollständig erfasst. Es gibt eine sogenannte „synthetische Lücke“.
taz: Und auch die Plattformen erschweren die Ermittlungen
Sußner: Neben Problemen wie anonymen Täter*innen und VPN-Netzwerken kommt der Zeitdruck hinzu. IP-Adressen werden oft nur wenige Tage gespeichert. Eine einfache Lösung wäre etwa Vorratsdatenspeicherung. Aber das wäre ein massiver Grundrechtseingriff, der anlasslos und pauschal gegen europäisches Unionsrecht verstößt. Vorschläge wie die Login-Falle oder Quick Freeze bieten grundrechtsschonender Alternativen.
taz: Und im Zivilrecht?
Sußner: Im Zivilrecht gibt es mehr Handlungsspielraum, schon das hier geschützte allgemeine Persönlichkeitsrecht hat einen breiteren Anwendungsbereich als punktuelle Straftatbestände. Betroffene können vor Gericht Unterlassungsansprüche oder Schadensersatz geltend machen. Aber auch hier gibt es große Hürden, wie Kosten, Zeitdruck, begrenzte Auskunftsansprüche. Deshalb wäre es sinnvoll, über Instrumente wie Verbandsklagerechte nachzudenken, um Betroffene zu entlasten. Und schließlich gibt es die Plattformverantwortlichkeit: Über Notice-and-Takedown-Verfahren nach dem Digital Services Act können Inhalte gemeldet und entfernt werden. Das sollte stärker eingefordert werden. Organisationen wie HateAid können als „Trusted Flagger“ Meldungen priorisieren. Auch das könnte weiter ausgebaut werden.
taz: Was sind die Vorteile von einem Verbandsklagerecht?
Sußner: In Deutschland muss man grundsätzlich selbst betroffen sein, um klagen zu können. Es gibt aber Ausnahmen, etwa im Umweltrecht. Beim Verbandsklagerecht können Organisationen im öffentlichen Interesse klagen. Das könnte im digitalen Bereich helfen, die hohen Hürden, finanziell und psychosozial, zu reduzieren.
taz: Sie bieten an der HWR Berlin unter anderem ein Vertiefungsseminar für Studierende des gehobenen Polizeivollzugsdienstes an. Das Thema ist digitale sexualisierte Gewalt. Was ist das Ziel Ihrer Arbeit?
Sußner: Ich habe das Glück, dass sich die Studierenden im Vertiefungsseminar aktiv für eine Befassung mit dem Thema entscheiden. Hier bringen viele Polizeistudierende ein hohes Interesse an digitalen Phänomenen mit, da sie selbst in einer digital geprägten Lebenswelt aufgewachsen sind. Sie können oft gut einschätzen, wie Plattformen funktionieren, kennen soziale Medien und verstehen Grundprinzipien von KI-Anwendungen. Gleichzeitig ist ihre juristische und praktische Erfahrung in Bezug auf digitale Gewalt häufig noch begrenzt. Zwar haben sie ein solides Basiswissen im Strafrecht, aber die spezifischen Delikte rund um Deepfakes, sexualisierte Bilder oder nicht einvernehmliche Weitergabe von Inhalten sind oft neu für sie.
Im Seminar analysieren wir deshalb konkrete Fallbeispiele: von sexualisierten Deepfakes bis hin zu nicht einvernehmlichen KI-generierten Inhalten. Wir diskutieren, welche Schritte Betroffene unternehmen können, welche Lücken es in der Strafverfolgung gibt und wie Plattformen reagieren müssen. Gleichzeitig versuche ich herauszuarbeiten, dass sich Daten- und Gewaltschutz, Schutz von Meinungsfreiheit und Persönlichkeitsrechten nicht gegenseitig ausschließen. Dass diese oft skizzierten Polaritäten Lebensrealitäten und rechtlichen Zusammenhängen nicht gerecht werden.
taz: Was sind die konkreten Ziele des Seminars?
Sußner: Die Studierenden verstehen die Notwendigkeit von schneller Reaktionsfähigkeit. Wenn IP-Daten, Accounts oder Inhalte gelöscht werden, bevor die Polizei oder die Betroffenen Zugriff haben, kann das Verfahren oft nicht mehr erfolgreich geführt werden. Das führt zu einem Bewusstsein für die Bedeutung von präventiven Maßnahmen und schnellem und sensiblen Handeln. Auch die Wichtigkeit von sensiblem Vorgehen, der Vermeidung von Sekundärviktimisierung war rasch ein Zwischenergebnis im Seminar. Dieses Semester werden die Studierenden als Teil unseres Lehrforschungsprojekts in den Praxistransfer gehen und an einem Sicherheitskonzept für zivilgesellschaftliche Kontexte mitarbeiten. Im besten Fall geht hier eine Generation aus der Ausbildung heraus, die es ganz selbstverständlich schafft, die „digitalen Kompetenzinseln“ der Berliner Polizei zu stärken und zu verbinden. Idealerweise aus meiner Sicht über ein Sonderdezernat. Neben aller Probleme, scheint es mir wichtig, auch diese Perspektive aufzugreifen und Raum für konstruktive Entwicklungen zu schaffen.
taz: Warum ist die Sensibilisierung der Polizei für digitale Gewalt so entscheidend?
Sußner: Betroffene, insbesondere Frauen oder marginalisierte Gruppen, erleben oft, dass ihre Anliegen heruntergespielt oder nicht ernst genommen werden. Damit riskieren wir, als Gesellschaft wesentliche Stimmen in der öffentlichen Meinungsbildung zu verlieren; die sogenannten Chilling Effects können hier auch die Ausübung der Meinungsfreiheit betreffen. Gut geschulte Polizei kann durch empathische Kommunikation und klare Verfahren das Risiko sekundärer Belastungen erheblich senken. Dazu kommt, dass digitale Gewalt die klassischen Ressortgrenzen überschreitet. Es geht um Strafrecht, Zivilrecht, Datenschutz, Plattformverantwortlichkeit, technische Expertise und psychosoziale Unterstützung. Eine sensibilisierte Polizei kann diese Schnittstellen erkennen und Betroffene kompetent begleiten bzw. verweisen, denn sie kann keine Zivilrechtsberatung leisten. Und wenn die Polizei professionell und verständnisvoll reagiert, hat das auch präventive Wirkung. Es signalisiert, dass digitale Gewalt ernst genommen wird und die Scham die Seite wechseln muss.
Gemeinsam für freie Presse
Als Genossenschaft gehören wir unseren Leser:innen. Und unser Journalismus ist nicht nur 100 % konzernfrei, sondern auch kostenfrei zugänglich. Alle Artikel stellen wir frei zur Verfügung, ohne Paywall. Gerade in diesen Zeiten müssen Einordnungen und Informationen allen zugänglich sein. Unsere Leser:innen müssen nichts bezahlen, wissen aber, dass kritischer, unabhängiger Journalismus nicht aus dem Nichts entsteht. Dafür sind wir sehr dankbar. Damit wir auch morgen noch unseren Journalismus machen können, brauchen wir mehr Unterstützung. Unser nächstes Ziel: 50.000 – und mit Ihrer Beteiligung können wir es schaffen. Setzen Sie ein Zeichen für die taz und für die Zukunft unseres Journalismus. Mit nur 5,- Euro sind Sie dabei! Jetzt unterstützen
meistkommentiert