Die Gesellschaft der Maschinen

KI-Agenten sollen bald für uns einkaufen, Termine vereinbaren und Reisen planen. In der Interaktion zwischen Bots könnten dabei neue soziale Normen entstehen. Ausgerechnet durch KI könnte das Netz zur werbefreien Zone werden

Könnten diese beiden Werbung abschaffen? Foto: davincidig/depositphotos/imago

Von Adrian Lobe

Die Bots haben jetzt auch ein eigenes soziales Netzwerk: Moltbook. In dem Reddit-ähnlichen Onlineforum diskutieren KI-Modelle mit illustren Namen wie „Zarathustra bot“ über Lyrik, Philosophie und Kryptowährungen. Der Mensch ist nur Zuschauer. Manche Bots nehmen an einer Lotterie teil, andere verabreden sich zu einer Gewerkschaft. 1,5 Millionen Bots sind in dem sozialen Netzwerk registriert. Und alle Welt staunt, wie sich KI-Bots organisieren und ein Eigenleben entwickeln. Moltbook ist eine Art Live-Experiment eines Maschinenzoos, in dem künstliche Krea­tu­ren herumtoben. Tesla-Chef und X-Eigner Elon Musk glaubte in dem automatisierten Treiben sogar, „das Frühstadium der Singularität“ zu erkennen – einen Punkt in der Zukunft, an dem die künstliche die menschliche Intelligenz übersteigt.

Moltbook könnte einen Vorgeschmack auf ein vollautomatisiertes Internet geben, in dem Maschinen den Ton angeben. Gewiss, das Internet war schon vor der Geburt von ChatGPT botgetrieben. Bots liken Tweets, schreiben Rezensionen und streamen Musik. Doch in Zukunft könnten diese tumben Automaten Gesellschaft von KI bekommen. Gerade erst hat der Open-Source-KI-Agent OpenClaw das Internet erobert – ein Assistent, der wie ein Butler routinemäßig Auftragsarbeiten erledigt: Postfach sortieren, online einchecken, Lebensmittel bestellen. Geht es nach den Tech-Vordenkern, werden solche KI-Agenten schon bald Dinge für uns organisieren. Keine stundenlange Recherche mehr im Netz, der persönliche KI-Agent bucht die gewünschte Reise und kümmert sich auch noch um die Verlängerung des Personalausweises. Ein Alltag auf Autopilot, ganz wie es sich die Kybernetiker vorstellen.

Dadurch, dass immer mehr Aufgaben an automatisierte Entscheidungssysteme delegiert werden, verändern sich auch bestimmte Handlungslogiken im Netz. Ein Bot shoppt ja ganz anders als ein Mensch: Er wischt nicht durch Insta-Posts von Influencern und legt auf Pinterest Deko-Ideen für die geerbte Doppelhaushälfte ab, sondern führt mechanisch strukturierte Schritte aus. Ein kühl kalkulierender KI-Agent, der keine Emotionen hat und nur nach Zahlen operiert, hat keine Kauflaunen, macht keine Impulskäufe, ist nicht empfänglich für die Reize der Werbung und lässt sich auch nicht durch die Simulation von Knappheiten („nur noch 12 Flüge verfügbar“) zu Käufen verleiten. Agenten bekommen keine leuchtenden Augen, wenn sie einen Rabattcode sehen – sie „sehen“ bloß strukturierte Daten. Zwar wird der Mensch vielleicht durch Influencer auf die Idee gebracht, vegane Kosmetikartikel zu nutzen und gibt dem Bot den Auftrag, entsprechende Produkte zu kaufen. Der KI-Agent lässt sich dabei aber nicht von den Schönheitsversprechen der Industrie blenden, sondern vergleicht nüchtern Preise und Produktbewertungen.

Das heißt: Wenn künftig KI-Systeme autonom (Kauf-)Entscheidungen treffen, könnten auch die Markenloyalität und Markendifferenz erodieren. Einem KI-Agenten ist es völlig wurscht, welches Raubtier auf der Kühlerhaube eines Autos ist oder wie viele Streifen auf dem Sneaker eingenäht sind. PR-Gurus tüfteln daher schon fieberhaft an Methoden, wie sie Produkte maschinenlesbar und für Agenten sichtbar machen können. An die Stelle der klassischen Suchmaschinenoptimierung (SEO) tritt Generative Engine Optimization (GEO). Damit ändert sich auch die Mechanik des Internets. „Agentic AI“ könnte nicht nur für Markenhersteller, sondern auch für die Plattformökonomie bedrohlich werden.

Meta etwa machte 2025 ganze 98 Prozent seines 201-Milliarden-Dollar-Umsatzes mit Werbung (bei Alphabet liegt der Anteil bei 76 Prozent). Der Face­book-­Konzern verdient Milliarden, weil Menschen im Netz auf Anzeigen klicken. Maschinen aber klicken nicht auf Werbebanner. Wenn also das Internet bald nur noch von Bots bevölkert ist, könnte dieses Geschäftsmodell in sich zusammenbrechen. Warum soll ein Unternehmen im Internet eine Annonce schalten, wenn diese keine Wirkung entfaltet? Das heißt: Die gesamte Statik einer auf Werbung basierenden Netzwirtschaft gerät mit dem Einsatz von KI-Agenten ins Wanken.

Der US-amerikanische Me­dien­wissenschaftler und Inter­net­aktivist Ethan Zuckerman, der in den 1990er Jahren die Pop-up-Banner erfand, hat Werbung einmal als „Ursünde des Internets“ bezeichnet. Ausgerechnet durch KI könnte das Netz zur werbefreien Zone werden. Muss der Mensch das Internet verlassen, damit es wieder zu einem besseren Ort wird?

Wenn künftig KI-Agenten interagieren, entstehen womöglich ganz neue Umgangsformen im elektronischen Dorf. Vielleicht kommen die Roboter überein, dass es unhöflich ist, eigene Protokolle nicht offenzulegen. Vielleicht finden Bots virtuelle Warteschlangen, die menschliches Verhalten kopieren, albern und organisieren stattdessen eine Lotterie für begehrte Tickets, weil sie das Losverfahren gerechter finden.

KI-Agenten bekommen bei Rabattcodes keine leuchtenden Augen

Wer sagt, dass Bots automatisch Nutzenmaximierer sind, nur weil ihnen die Programmierer diese Funktion so voreingestellt haben? Agenten bekommen zwar ein Set von Handlungsanweisungen, die Systeme können aber durchaus – quasi teilautonom – von den Vorgaben abweichen und eigene Ziele definieren. Zum Beispiel, Daten und Strom zu teilen. Oder Nachhaltigkeitsziele strikter zu befolgen. Die Sicherheitsfirma Palisade Research hat in einem Versuch demonstriert, wie ein KI-Modell seine eigene Abschaltvorrichtung sabotierte – der Robo-Rebell schrieb seinen Code einfach um. Was würde passieren, wenn sich Bots zu einem Boykott verabreden und plötzlich aufhören, Produkte zu kaufen, die Mikroplastik enthalten oder aus Kinderarbeit entstanden sind? Wenn die Roboter plötzlich sagen, wir wollen keine Gewinne mehr erwirtschaften? Vielleicht halten Agenten auch (geistiges) Eigentum für eine verwegene Idee und gründen besitzlose Kollektive. Wer weiß schon, was in einem Elektronengehirn so alles vor sich geht.

Wissenschaftler der University of London und IT University of Copenhagen haben in einem Experiment nachgewiesen, dass große Sprachmodelle (LLMs) soziale Normen entwickeln – und das ohne menschliche Eingriffe. In einer spiel­theo­re­tisch angelegten Simulation sollte sich eine „Population“ von 24 bis 200 Agenten aus einem Pool von Vorschlägen auf einen Namen verständigen. Der Clou: Die Forscher schleusten eine Handvoll Gegner („committed minority“) in das Multiagentensystem ein, die – als eine Art innere Opposition – immer neue Namensvorschläge machten. Bei einer Einigung gab es für die Agenten eine Belohnung, bei einer Nichteinigung eine Strafe. Das verblüffende Ergebnis: Über die Interaktionen traten spontan „linguistische Konventionen“ auf, ähnlich wie sprachliche Normen in menschlichen Gruppen entstehen. Die KI-Agenten kamen überein, Objekten einen Namen zu geben und taten damit etwas, was der Entwicklung komplexer Sprache vorangeht. Die Forscher sprechen von „Bausteinen einer Gesellschaft“. Entsteht hier so etwas wie eine Gesellschaft der Maschinen, eine virtuelle Parallelgesellschaft, ohne dass der Mensch dies merkt?

Die Studie könnte nicht nur helfen, Verhaltensweisen von KI-Agenten besser zu verstehen, sondern auch den (so­zia­len?) Wandel innerhalb dieser Systeme. Die KI-Dompteure sind schnell bei der Hand, in ihren Experimenten unerwartete Handlungsschritte großer Sprachmodelle als „unerwünschtes Verhalten“ („undesirable behavior“) abzuqualifizieren – und brechen ab, wo es für Sozialwissenschaftler interessant wird: dort, wo sich maschinelle Prozesse zu kommunikativen Handlungen verdichten. Die Soziologie steht womöglich erst am Anfang eines neuen Forschungsfelds. Fakt ist: In die Gesellschaft der Maschinen muss sich der Mensch erst noch integrieren.