EU-Parlament: KI-Anwendungen für Porno-Deepfakes sollen verboten werden

EU-Parlament beschließt Verbot von KI-Porno-Deepfakes ohne Einwilligung. Neue Regeln sollen Opfer besser schützen und Täter künftig härter bestrafen.

Ein ausdrückliches Verbot sei „dringend geboten“, argumentieren die Abgeordneten des EU-Parlaments Foto: imago

afp | Die EU geht gegen Porno-Deepfakes und sexualisierte Bilder im Netz vor: Das Europaparlament stimmte am Donnerstag in Brüssel für ein Verbot von KI-Anwendungen, mit deren Hilfe Nutzer solche Videos und Bilder von Menschen ohne deren Einwilligung erstellen können. Das Verbot soll in einigen Monaten greifen, sobald die Änderung endgültig beschlossen ist.

Es bezieht sich auf Anwendungen, die mit künstlicher Intelligenz Bilder und Videos so verändern oder erstellen können, dass sie „sexuell eindeutige Aktivitäten oder intime Körperbereiche einer bestimmbaren Person ohne deren Einwilligung“ zeigen. Solche Bilder und Videos „schädigen die Opfer und verletzen die Grundrechte auf Würde und Privatsphäre“, heißt es im Gesetzentwurf zur Begründung.

Ein ausdrückliches Verbot sei „dringend geboten“, argumentieren die Abgeordneten. Die EU reagiert damit unter anderem auf Vorfälle Anfang des Jahres, als Nutzer mithilfe des Chatbots Grok von US-Milliardär Elon Musk Millionen sexualisierte KI-Bilder von Frauen und Kindern erstellten und online verbreiteten. Mehrere Länder sowie die EU-Kommission leiteten Ermittlungen gegen Grok ein, einige sperrten den Chatbot.

Neben den Grok-Fällen gebe es „über 100 Apps, die wirklich nichts anderes machen und die absolut darauf spezialisiert sind, diese sexualisierten Bilder zu erstellen“, sagte die Grünen-Europaabgeordnete Alexandra Geese. „Ich glaube, den Markt kann man hiermit sehr, sehr klar eingrenzen“, fügte sie hinzu. Die Branche müsse verstehen, „dass es nicht nicht lohnt, Geld in die Entwicklung solcher Systeme zu setzen.“

Gegenstück zum Gesetzentwurf von Stefanie Hubig

Das Vorgehen in Brüssel ist das Gegenstück zu einem Gesetzentwurf, den Bundesjustizministerin Stefanie Hubig (SPD) in Kürze vorstellen will: Die EU ist für Regeln und Verbote für die Technologie zuständig, die Bundesregierung kümmert sich um härtere Strafen für die Täter, die pornografische Deepfakes erstellen. Hubig will Gesetzeslücken schließen, bislang ist das bloße Erstellen pornografischer Aufnahmen hierzulande nicht strafbar.

Hilfsangebote für von sexualisierter Gewalt Betroffene

Sie sind von digitaler sexualisierter Gewalt betroffen? Unterstützung bekommen Sie von Beratungsstellen wie HateAid, Weisser Ring e.V. oder dem Hilfetelefon „Gewalt gegen Frauen“ unter 116 016. Technische Hilfe gegen Cyberstalking bieten die Antistalking-Haecksen unter antistalking.haecksen.org.

Einem Entwurf zufolge soll das Erstellen und Verbreiten von Deepfakes künftig mit bis zu zwei Jahren Haft bestraft werden. Hubig hatte die Pläne vor dem Hintergrund des Falls der Schauspielerin Collien Fernandes angekündigt. Fernandes war in der vergangenen Woche mit Vorwürfen der digitalen sexualisierten Gewalt gegen ihren Ex-Mann Christian Ulmen an die Öffentlichkeit gegangen. Ulmens Anwalt sprach von einer unzulässigen Verdachtsberichtserstattung.

Das EU-Vorgehen ist Teil einer Reihe von Änderungen an einem KI-Gesetz, das die EU 2024 beschlossen hatte. Die Reform sieht an anderer Stelle auch Lockerungen vor: Regeln für den Einsatz von künstlicher Intelligenz in Sicherheitsbehörden und Gesundheitssystemen etwa sollen verschoben werden. Das Europaparlament muss in den kommenden Wochen und Monaten mit dem Rat der 27 EU-Staaten über die gesamte Reform verhandeln.