Neue Regeln für künstliche Intelligenz: Wasserzeichen fürs KI-Bild

Anfang August treten weitere Teile der europäischen KI-Regeln in Kraft. Was sich ändert – und warum wichtige Regeln verschoben wurden.

Ein paar EU-Regeln für KI-Systeme treten am Sonntag in Kraft – andere erst in einem Jahr, weil die Kommission sie aufgeschoben hat

Foto: Ardan Fuessmann/imago

Von mehr Transparenz bis zu Strafen bei Verstößen – ab Sonntag gelten mehr Regeln für die Anbieter von Systemen mit künstlicher Intelligenz (KI). Was Nut­ze­r:in­nen schon bald bemerken sollten, ist die Umsetzung von Transparenzvorgaben: So müssen mittels KI erzeugte Inhalte erkennbar sein, und zwar sowohl für Menschen als auch für technische Systeme, etwa per Wasserzeichen. Außerdem müssen Nutzende darüber informiert werden, wenn sie mit einer KI interagieren, zum Beispiel bei einem Chatbot oder in einer Hotline.

Die neuen Regeln gehören zum AI Act, der EU-Gesetzgebung zu KI. Beschlossen wurde sie bereits vor zwei Jahren. Doch die einzelnen Vorgaben treten erst nach und nach in Kraft. Aktueller Stichtag ist nun der 2. August. Ursprünglich sah der AI Act vor, dass zu diesem Datum noch weitere Regeln in Kraft treten, unter anderem ein Teil der Vorgaben für KI-Systeme, die als besonders risikoreich gelten. Doch die EU-Kommission hat dafür gesorgt, dass diese nach hinten geschoben werden. Die Verschiebung ist Teil eines größeren wirtschaftsfreundlichen Pakets, das die Kommission in den vergangenen Monaten geschnürt hat.

Was nun kommt: Die EU-Kommission darf jetzt beginnen, Strafen zu verhängen, wenn Anbieter von „general-purpose AI models“, das sind KI-Systeme mit allgemeinem Verwendungszweck, sich nicht an die Regeln halten. Zu diesen Systemen zählen vor allem die bekannten KI-Chatbots wie ChatGPT, Claude oder Gemini.

„Scharfes Schwert“ für die EU-Kommission

„Das ist von zentraler Bedeutung. Viele leistungsfähige KI-Modelle – etwa von Anthropic, OpenAI oder Mistral – schneiden in Sicherheitstests bislang nur mäßig bis schlecht ab“, sagt Philipp Hacker, Professor für Recht und Ethik der digitalen Gesellschaft an der Universität Viadrina Frankfurt, gegenüber dem Science Media Center (SMC).

Die EU-Kommission habe dann eine Reihe an Befugnissen: Sie könne Untersuchungen einleiten, Dokumente anfordern, die Überprüfung von KI-Modellen selbst durchführen oder veranlassen und gegebenenfalls Strafen folgen lassen. Hacker erklärt: „Im äußersten Fall führen diese sogar zum Ausschluss eines Modells vom europäischen Markt. Das ist ein scharfes Schwert, das allerdings erst nach einem aufwendigen und rechtsstaatlich ausgestalteten Verfahren zum Einsatz kommen kann.“

Es braucht praxistaugliche Handlungsempfehlungen, die auch kleine Unternehmen ohne Rechtsabteilung verstehen

Kristian Kersting, TU Darmstadt

Forschende kritisieren gleichzeitig, dass der AI Act zahlreiche Fragen offen lasse. Etwa Fragen zur Haftung und zum Urheberrecht. Was Letzteres angeht, laufen bereits Prozesse, bei denen Verwertungsgesellschaften der Rech­te­inha­be­r:in­nen gegen Unternehmen klagen, die urheberrechtlich geschützte Werke zum Training von KI-Modellen verwendet haben.

„Was der Markt jetzt braucht, sind juristische Klarheit beim Urheberrecht und einfache, praxistaugliche Handlungsempfehlungen, die auch kleine Unternehmen ohne Rechtsabteilung verstehen und umsetzen können“, sagt Kristian Kersting, Leiter des Fachgebiets Maschinelles Lernen an der Technischen Universität Darmstadt gegenüber dem SMC.

Wie es weitergeht

Bereits am Mittwoch ist in Deutschland ein Gesetz in Kraft getreten, das die Aufsicht über die Umsetzung der KI-Verordnung regelt. Demnach soll die Koordination der Aufsicht bei der Bundesnetzagentur liegen. Sie soll außerdem Beschwerden etwa von Ver­brau­che­r:in­nen entgegennehmen sowie kleine und mittlere Unternehmen bei der Anwendung unterstützen. Unter anderem mit einem „KI-Reallabor“, in dem Firmen KI-Systeme entwickeln, trainieren und testen können.

Nächster Stichtag für neue Regeln aus dem AI Act ist laut Bundesnetzagentur der 2. August 2027. Ab dann sollen neue Regeln für Hochrisiko-KI-Systeme und für ältere allgemeine KI-Systeme gelten.