Digitalisierte Gewalt: EU will KI für Missbrauch-Deepfakes verbieten
Laut EU-Ratspräsidentschaft gibt es eine Einigung auf eine Anpassung des KI-Gesetzes. Die Reform könnte Anfang Dezember wirksam werden.
Foto: Marcus Brandt/dpa
dpa/rtr | KI-Anwendungen zum missbräuchlichen Erstellen von sexualisierten Deepfakes sollen in der EU künftig verboten sein. Vertreter der Mitgliedstaaten und des Europäischen Parlaments einigten sich auf eine entsprechende Anpassung des KI-Gesetzes, wie die zyprische EU-Ratspräsidentschaft mitteilte. Zugleich sollen andere KI-Regeln vereinfacht werden, um das wirtschaftliche Potenzial von künstlicher Intelligenz in Europa auszuschöpfen.
Bevor die Änderungen in Kraft treten können, muss die Einigung noch vom Plenum des EU-Parlaments und dem Rat der Regierungen der Mitgliedstaaten bestätigt werden. In der Regel gilt das als Formalie. Geht die Reform durch, würde das Verbot ab 2. Dezember 2026 federführend vom KI-Amt der EU durchgesetzt werden, das vor zwei Jahren geschaffen wurde.
Bei sogenannten Deepfakes wird etwa das Gesicht einer Frau in ein anderes Video – etwa eine Porno-Sequenz – eingefügt oder die Stimme künstlich nachgeahmt, sodass es wirkt, als würde sie Dinge tun oder sagen, die tatsächlich nie passiert sind. Durch die Entwicklung von KI ist die Erstellung täuschend echter Inhalte sehr viel einfacher geworden.
Das neue Verbot soll explizit auch auf das Erstellen von Inhalten abzielen, die sexuellen Kindesmissbrauch darstellen. Die FDP-Europaabgeordnete Svenja Hahn begrüßte die Einigung: „KI darf kein Werkzeug für sexualisierte Gewalt gegen Kinder sein“, teilte sie nach den bis tief in die Nacht andauernden Verhandlungen mit.
„Bis Ende dieses Jahres werden alle, insbesondere jedoch Frauen und Mädchen, vor schrecklichen Nacktbild-Apps sicher sein, die auf dem EU-Markt weit verbreitet sind“, sagte die niederländische EU-Abgeordnete Kim van Sparrentak. Ab diesem Datum soll auch eine obligatorische Kennzeichnung für KI-generierte Inhalte gelten.
Grok-Skandale und deutsche Debatte über digitale Gewalt
Auf EU-Ebene rückte das Thema Ende vergangenen Jahres durch den KI-Chatbot Grok in den Fokus: Bis die von Tech-Milliardär Elon Musk geführte US-Firma hinter der Software diese Funktion einschränkte, befahlen Menschen der KI immer wieder, Frauen in von ihnen ausgewählten Bildern zu entkleiden. An Silvester entschuldigte sich der Chatbot selbst dafür, ein Bild von zwei Mädchen im Teenager-Alter „in sexualisierten Outfits“ erstellt zu haben.
In Deutschland bekam die Debatte über sexualisierte digitale Gewalt Ende März neue Dringlichkeit, als Collien Fernandes mit Vorwürfen gegen ihren Ex-Mann Christian Ulmen an die Öffentlichkeit ging. Bei diesen Vorwürfen geht es nicht um Deepfakes. Fernandes wirft ihm vor, Fake-Profile in ihrem Namen erstellt und darüber pornografische Inhalte verbreitet zu haben. Für Ulmen gilt die Unschuldsvermutung. Seit Bekanntwerden der Vorwürfe gibt es bundesweit eine große Diskussion über digitale und sexualisierte Gewalt gegen Frauen – und breite Medienberichterstattung darüber. Tausende Menschen zogen für Demonstrationen auf die Straße und forderten mehr Schutz für Opfer. Im Zusammenhang mit dieser Debatte ging es auch immer wieder um sexualisierte Deepfakes und Deepfake-Pornografie. Material dieser Art kursiert schon seit Jahren im Netz.
Der drohende Erfolg der AfD bei den kommenden Landtagswahlen zeigt, wie stark rechtsextreme Kräfte inzwischen geworden sind. Gerade jetzt braucht es Zusammenhalt und Solidarität. Auch und vor allem mit den Menschen, die sich vor Ort für eine starke Zivilgesellschaft einsetzen. Die taz kooperiert deshalb mit "Alles beginnt im Zentrum". Die Kampagne unterstützt bundesweit linke, selbstverwaltete Orte und baut einen solidarischen Fonds für deren Schutz und Erhalt auf. Eine offene Gesellschaft braucht guten, frei zugänglichen Journalismus – und zivilgesellschaftliches Engagement. Finden Sie auch? Dann machen Sie mit und unterstützen Sie unsere Aktion. Jetzt unterstützen
meistkommentiert