KI-Chatbot auf X: Sperre soll Nacktbilder von Grok verhindern

Use­r*in­nen konnten mit der KI Grok Nacktbilder von anderen Menschen erstellen. Mit Geoblocking will X diese sexualisierte Gewalt beenden.

Protest gegen Elon Musks KI-Werkzeug Grok auf den Straßen von London Foto: Maja Smiejkowska/reuters

taz/afp | Mit wenigen Worten haben Use­r*in­nen die KI Grok auffordern können, anderen Menschen die Kleidung auszuziehen, oder sie in Bikinis zu stecken. Damit soll jetzt Schluss sein. Der Onlinedienst X hat seinen KI-Chatbot Grok eigenen Angaben zufolge bei der Erstellung gefälschter Nacktbilder eingeschränkt. In Ländern, in denen solche Handlungen illegal sind, wurde die Funktion, Menschen in „Bikinis, Unterwäsche und ähnlicher Kleidung“ darzustellen, für alle Grok- und X-Nutzer*innen „geografisch blockiert“, wie der Onlinedienst am Mittwoch erklärte.

Das Sicherheitsteam von X erklärte, es seien „technische Maßnahmen“ ergriffen worden, „um zu verhindern, dass über das Grok-Konto Bilder von realen Personen in freizügiger Kleidung wie Bikinis bearbeitet werden können“. Diese Einschränkung gelte für „alle Nutzer*innen, einschließlich zahlender Abonnent*innen“.

Wenige Stunden vor der Stellungnahme hatte der US-Bundesstaat Kalifornien eine Untersuchung gegen Grok eröffnet. Kalifornien will laut Generalstaatsanwalt Rob Bonta klären, ob die KI-Firma xAI, die dem rechten Milliardär Elon Musk gehört, gegen Gesetze des Bundesstaats zum Schutz vor Belästigung verstoßen hat. Zuvor hatten bereits die Europäische Union und Großbritannien den KI-Chatbot ins Visier genommen. In Deutschland plant Justizministerin Stefanie Hubig (SPD) Strafen für Deepfakes.

Grund dafür ist eine Untersuchung der gemeinnützigen Organisation AI Forensics. For­sche­r*in­nen haben 20.000 Bilder ausgewertet, die Grok auf Anfrage von Use­r*in­nen generiert hat. 53 Prozent der Bilder haben Menschen in freizügiger Kleidung gezeigt – in vier von fünf Fällen Frauen. Die Befehle an die KI kamen in rund 80 Prozent der Fälle, wie so oft, wenn es darum geht, Frauen zu sexualisieren, von Männern. Einige der Bilder zeigten sogar Jugendliche und Kinder, manche von ihnen jünger als fünf Jahre.

EU-Kommission noch nicht zufrieden

Die EU-Kommission und die britische Aufsichtsbehörde Ofcom hatten Musks Unternehmen deshalb aufgefordert, Maßnahmen zum Schutz der Menschen zu ergreifen, die auf den Bildern dargestellt werden. Sie reagierten am Mittwoch zurückhaltend auf die Ankündigung des Unternehmens, mit den europäischen Behörden zusammenarbeiten zu wollen. Wenn die geplanten Änderungen nicht effektiv seien, werde sich die EU-Kommission nicht scheuen, ihr ganzes juristisches Arsenal zu nutzen, erklärte ein Sprecher in Brüssel.

Am Samstag hatte Indonesien als weltweit erstes Land Grok vollständig gesperrt. Malaysia ergriff die gleiche Maßnahme am Sonntag. Anderswo wurde die Nutzung des Tools auf zahlende Kun­d*in­nen beschränkt.