OpenAIs autonomer KI-Angriff: Verantwortlich ist nach wie vor der Mensch

Ein KI-Modell von OpenAI hackt ein Unternehmen. Im Silicon Valley blickt man mit Faszination auf den Angriff – dabei liegt die Schuld bei den Entwicklern.

Wir sollten bei dem Diskurs um KI nicht vergessen, dass es ein von Menschen programmiertes System ist

Illustration: getty images

Ist nun der Zeitpunkt gekommen, an dem KI-Systeme eigenständig einen Hacker-Angriff starten und wir ihnen schutzlos ausgeliefert sind? Nicht ganz.

Die ersten aufgeregten Medienberichte zu dem Vorfall um OpenAI lassen allerdings anderes erwarten. Es ist die Rede von einer „ausgebrochenen“ KI, die sich „verselbstständigt“ habe. Dabei werden einige Debatten so geführt, als hätte der Mensch keinen Einfluss mehr auf die KI-Systeme und ihr Vorgehen. Das verzerrt das Bild.

Wir sollten bei dem Diskurs um KI nicht vergessen, dass es ein von Menschen programmiertes System ist, das durch Prompts und Aufgabenstellungen von Menschen dirigiert wird. Und die sollten jetzt die Verantwortung dafür übernehmen. In diesem Fall: die Ma­che­r*in­nen von OpenAI.

Bereits letzte Woche hatte die Software-Plattform Hugging Face, auf der sich die KI-Community zu Modellen, Programmierung und Datensätzen austauscht, von einem Sicherheitsvorfall berichtet: Ein externer KI-Agent sei in die Firmen-Infrastruktur eingedrungen. Am Dienstag veröffentlichte dann OpenAI ein Statement, in dem sie sich zu dem Vorfall bekennen.

Ausgeführt wurde der Cyber-Angriff auf Hugging Face von dem neuesten Modell GPT-5.6 Sol und einem Modell, das noch nicht veröffentlicht ist. Der Vorfall sei auf einen Test zurückzuführen, bei dem die Cyber-Fähigkeiten – also die Hacking-Fähigkeiten – der Modelle gemessen werden sollten. Das Eindringen in ein externes Unternehmen sei natürlich nicht geplant gewesen, beteuert OpenAI.

Technischer Fortschritt statt Moral

Und gleichzeitig zeigt sich sowohl auf Seite des Hackers als auch der Gehackten mehr Begeisterung als Unbehagen über das Geschehene. OpenAI spricht von einem „beispiellosen Cybervorfall mit hochentwickelten Cyber-Fähigkeiten“, und Hugging Face schiebt noch hinterher, es sei „atemberaubend, dass all das autonom geschehen ist“.

Diese Reaktionen verdeutlichen, dass die großen Tech-Giganten weniger vor Sicherheitsbedenken zurückschrecken als vielmehr mit leuchtenden Augen auf den technischen Fortschritt blicken, den es immer zu feiern gilt.

Was aber hat es mit dem selbstständigen Vorgehen der KI auf sich? Bei dem Leistungstest, der zu dem Hacking-Angriff geführt hat, wurden die Schutzmechanismen der KI-Modelle bewusst reduziert. So sollten die maximalen Fähigkeiten ermittelt werden. Gleichzeitig war die Testumgebung nicht so isoliert wie von OpenAI angenommen.

Anstatt innerhalb des vorgegebenen Netzwerks zu bleiben, fanden die Modelle heraus, dass sie die Aufgabe besser und schneller lösen konnten, wenn sie sich Zugang zum Internet verschaffen. Dieses Vorgehen wurde von den Modellen autonom – also ohne „human in the loop“ – ausgeführt. Auch wenn das gruselig klingt und zum Teil auch gruselig ist, da selbst die Ent­wick­le­r*in­nen modernster KI-Systeme noch immer nicht ganz verstehen, wie die Modelle im Detail agieren, ist das Vorgehen nicht unerwartet.

Autonome KI vom Menschen trainiert

Damit eine KI überhaupt an den Punkt kommt, autonom zu entscheiden, wurde sie daraufhin trainiert – von einem Menschen. In dem Fall von den Ent­wick­le­r*in­nen von OpenAI, geführt von einem der mächtigsten Tech-Oligarchen im Silicon Valley. Das Unternehmen hat, genau wie Anthropic, in den letzten Monaten aktiv daran gearbeitet, Systeme so agieren zu lassen, dass sie nicht ständig von einem Menschen kontrolliert werden müssen.

Das Problem liegt also nicht in der Maschine, die bereits im Geheimen die Machtübernahme plant. Sondern – wie so oft – bei den Menschen, die diese Technologien entwickeln. KI-Systeme agieren eben basierend auf den Datensätzen, mit denen sie gefüttert werden, den Richtlinien, die ihnen vorgegeben werden, und der Moral, an die im Code appelliert wird. Auch das autonome Handeln wird den Maschinen eingeschrieben, die Verantwortung bleibt aber bei den KI-Anbietern und deren Nachlässigkeit.

Außerdem weisen For­sche­r*in­nen darauf hin, dass es gängige Praxis ist, eine Testumgebung isoliert vom Internet zu entwerfen. Und wenn wir, wie behauptet, davon ausgehen, dass bei OpenAI die brillanten IT-Köpfe sitzen, dann sieht der Vorfall mehr nach Provokation als nach wirklichem Kontrollverlust aus.

Es ist also nicht verwunderlich, dass eine KI im Rahmen der Möglichkeiten agiert, die man ihr vorgibt. Wie OpenAI-Chef Sam Altman ständig betont, ist Schnelligkeit am wichtigsten. Der Weg zum Ziel wurde zweitrangig. Und so bleiben auch weiterhin Menschen die größte Bedrohung für sich selbst.