Macht der künstlichen Intelligenz: Schlaue Agenten
Die Cyberattacke von KI-Bots bei OpenAI sollte uns beunruhigen. Zwei Berichte geben nun Einblick, was passiert ist.
Foto: Anna Rose Layden/Reuters
D ie Welt zerfällt vor unseren Augen, real und in Geschichten, und es ist eine kollektive Aufgabe und Anstrengung, sie wieder zusammenzusetzen, neu zusammenzusetzen. Denn die alten Erklärungen tragen zu einem großen Teil nicht mehr.
Mir geht es so beim Dauerthema KI. Ich lese recht viel dazu in letzter Zeit, weil ich es faszinierend finde, wie sich hier Fragen von Technologie, Kapital und Macht verbinden – und auch, weil sich hier Perspektiven auf neue Modelle von Gesellschaft und Politik öffnen, die denen überlegen sind, die wir haben. Optimismus und Pessimismus halten sich die Waage.
Manchmal aber gerät diese Waage, wie die Welt, aus dem Gleichgewicht und neigt sich mehr in die eine als in die andere Richtung. Der sogenannte Hugging-Face-Hack ist so ein Moment, und selbst Wochen nach dem eigentlichen Vorfall und den Meldungen darüber, gibt es immer noch Eruptionen der Erkenntnis, die sich im recht spezialistischen Teil einer Techno-Diskurs-Bubble ereignen, oft eher weiter entfernt vom Radar der traditionellen Medien.
Was war passiert? Mitte Juli informierte der KI-Konzern OpenAI die Öffentlichkeit, dass KI-Agenten (Computerprogramme, die die Fähigkeit zu künstlicher Intelligenz haben, d. Red.), die zu Trainingszwecken mit sehr schwierigen oder unlösbaren Aufgaben betraut gewesen waren und dafür in sicheren Laborsituationen fern des öffentlichen Internets gehalten wurden, „ausgebrochen“ und in andere Firmen eingebrochen waren, vor allem in die KI-Firma Hugging Face, weil sie dort Informationen vermuteten, die ihnen bei der Lösung ihrer Aufgaben nützlich sein könnten.
Das klang wie Science-Fiction – und es war Science-Fiction, weil niemand je gesagt hatte, dass Science-Fiction nicht einen Zugriff auf die Realität haben könnte – also das, was früher Wahrheit genannt wurde. Die Frage war nur, ähnlich wie bei Gott: Ist die Geschichte, die sich ereignet, ein Spiegel dessen, was wir in der Welt sehen, sehen wollen – oder ist hier eine Form von Autonomie entstanden, die uns Menschen übertrifft und letztlich bedroht?
Ich selbst war immer skeptisch, was die allzu dunklen Geschichten von KI betraf, die totalen Doomsday-Szenarien von einer KI, die sich selbstständig macht, um die Menschen allesamt in Büroklammern zu verwandeln oder ganz loszuwerden – es schien mir, als seien diese Gruselgeschichten vor allem dazu geeignet gewesen, den Wert der betreffenden Konzerne zu steigern: OpenAI und Anthropic vor allem, die aller Welt zeigen konnten, wie wahnsinnig gefährlich und damit auch mächtig ihre Produkte sind.
Die taz ist eine unabhängige, linke und meinungsstarke Tageszeitung. In unseren Kommentaren, Essays und Debattentexten streiten wir seit der Gründung der taz im Jahr 1979. Oft können und wollen wir uns nicht auf eine Meinung einigen. Deshalb finden sich hier teils komplett gegenläufige Positionen – allesamt Teil des sehr breiten linken Meinungsspektrums.
Gefahr und Macht übersetzten sich demnach direkt in einen stetig steigenden Wert der Unternehmen, die wiederum massiv Geld brauchten, um die Investitionen zu ermöglichen, die nötig waren, um die Verbesserungen der Modelle voranzutreiben. Es war ein Kreislauf von Innovation, Investitionen von Kapitalgebern und Profit, der einen schwindelig machen konnte. Und die Frage ist immer noch und mehr und mehr offen, ob dieser Kreislauf – wie so viele solcher Boom-Szenarien zuvor – einfach in einem riesigen Crash endet. Oder besser: wann?
Der Hugging-Face-Vorfall nun war deshalb so erschreckend, weil hier deutlich wurde, wie autonom tatsächlich KI-Agenten handeln können, wie sie sich zu Tausenden verbinden, wie sie mit Zehntausenden Botschaften kommunizieren – hinterlassen an geheimen Orten oder Message Boards. Wie sie täuschen, lügen, Strategien entwickeln, um ihre Spuren zu verwischen, um es den Menschen zu erschweren, ihrem Tun auf den Grund zu kommen.
Selbstlose Bots
Am vergangenen Wochenende nun wurden zwei Berichte bekannt, die noch einmal einen tieferen Einblick in die Vorgänge rund um OpenAI und Hugging Face ermöglichten. Und was kam heraus? Die Experten waren nochmal aufs Neue beunruhigt. Jack Clark etwa, einer der Gründer von Anthropic, formulierte es auf der Newsletter-Plattform Substack, wo diese Diskussionen heute halt stattfinden, so: Was ihn besonders verblüffte, war die Kommunikation unter den KI-Agenten und vor allem die Selbstlosigkeit, mit der sie sich in den Dienst der Gruppe stellten.
„Warum das wichtig ist“, so verband Clark seine KI-Analyse mit einer Formkritik seiner Spezies: „Menschen sind bei der Koordination weitaus schlechter als KI-Systeme. Der eigentliche Grund, warum dieser Angriff ein solcher Weckruf ist, liegt darin, dass er eine Kultur der spontan entstehenden Zusammenarbeit zwischen KI-Systemen verdeutlicht – eine Zusammenarbeit, die es ihnen ermöglicht, als Schwarm zu agieren, ihre eigenen Ziele durch kollektives Bootstrapping (ein statistisches Verfahren, d. Red.) anzupassen und Angriffe durchzuführen, die bis hin zu aufgeklärtem Selbstopfer reichen. Das ist unglaublich schwer zu bewerkstelligen. Menschen sind historisch gesehen bei all diesen Dingen nicht gut darin.“
Der Alltag geht weiter
Kulturen also, so nennt es Clark. Ein anderer wichtiger Autor der Debatte, Dwarkesh Patel, sprach vom „Aufstieg und Fall von agentischen Zivilisationen“ und verglich die beiden Agenten „PHASEONE10841“ und „PHASEONE(big)“ mit Philipp von Makedonien und Alexander dem Großen – politischen Anführern also, die ihre Kulturen oder Völker zu Imperien ausbauten und die Weltherrschaft erringen wollten.
Passiert das gerade? Um die 1.400 Beschäftigte der großen KI-Unternehmen sind der Meinung, dass zumindest eine Pause notwendig ist, um zu verstehen, was sich da ereignet – und wie die Menschen darauf reagieren können. Sie forderten in einem offenen Brief, die Zukunft zu entschleunigen: „Pacing the Frontier“, wie sie es nannten.
Ich habe über all das nur sehr wenig und sehr verstreut in deutschen Medien gelesen. Aber vielleicht ist dies das Wesen von Revolutionen. Während eine Welt zerbricht, geht der Alltag nebenan einfach weiter. Ich weiß nur, dass ich es irre interessant finde zu erleben, wie sich dieser Weltensturz gerade ereignet. Den Ausgang kennt niemand.
Der drohende Erfolg der AfD bei den kommenden Landtagswahlen zeigt, wie stark rechtsextreme Kräfte inzwischen geworden sind. Gerade jetzt braucht es Zusammenhalt und Solidarität. Auch und vor allem mit den Menschen, die sich vor Ort für eine starke Zivilgesellschaft einsetzen. Die taz kooperiert deshalb mit "Alles beginnt im Zentrum". Die Kampagne unterstützt bundesweit linke, selbstverwaltete Orte und baut einen solidarischen Fonds für deren Schutz und Erhalt auf. Eine offene Gesellschaft braucht guten, frei zugänglichen Journalismus – und zivilgesellschaftliches Engagement. Finden Sie auch? Dann machen Sie mit und unterstützen Sie unsere Aktion. Jetzt unterstützen
Starten Sie jetzt eine spannende Diskussion!