Anthropic und die US-Regierung: Mit dem Weltuntergang Geschäfte machen
Die neuen Chatbots der KI-Firma Anthropic sind vielleicht doch nicht so gefährlich, wie sie selbst und die US-Regierung behaupten. Warum werden sie dann gesperrt?
Beim Thema KI denken viele wohl zuerst an Sprachmodelle wie ChatGPT. Die einen nutzen den Chatbot, der jede Frage innerhalb von Sekunden beantwortet, als Suchmaschine oder um E-Mails zu verfassen. Andere generieren damit lustige Katzenbilder oder die Flyer für die nächste WG-Party.
Und wieder anderen graut es vor der bösen Super-KI. Etwas wie das Netzwerk Skynet aus dem Sci-Fi-Film „Terminator“ von 1984, das ein Bewusstsein entwickelt, Atomwaffen abfeuert und die Menschheit unterjocht.
Genau mit dieser Angst spielte das US-Unternehmen Anthropic Anfang April, als es die neue Version seines Sprachmodells „Claude“ ankündigte, dem Konkurrenzprodukt zu ChatGPT. „Mythos“, so der Versionsname, sei viel zu gefährlich für den öffentlichen Gebrauch – und werde daher vorerst nicht veröffentlicht. Denn: Das neue Modell übertreffe „alle Menschen außer den Versiertesten darin, Schwachstellen in Software zu finden und auszunutzen“. Was, wenn das in falsche Hände geriete?
Diese Warnung nahm die US-Regierung anscheinend sehr ernst. Am 12. Juni wies das Handelsministerium Anthropic an, den neuen Chatbot wegen Sicherheitsbedenken für Nichtamerikaner:innen abzuschalten, im Aus- und Inland – sogar für Mitarbeiter:innen des Konzerns.
Wie gefährlich sind Mythos und Fable 5 wirklich?
Anthropic hatte Mythos zuvor doch veröffentlicht, aber in seiner „abgesicherten“ Version „Fable 5“. Diese verwies jeden, der Suchbegriffe wie „IT-Sicherheit“, „Hacking“ oder auch „Biowaffen“ eingab, an das nächstleistungsschwächere Modell des Unternehmens.
Kurz darauf warnte jedoch Amazon-CEO Andy Jassy die US-Regierung davor, dass die Schutzmechanismen von Fable 5 umgangen werden könnten. Anthropic konnte das nicht völlig ausräumen. Und weil die weitreichenden Wünsche der Regierung laut dem KI-Unternehmen nicht direkt umzusetzen waren, sperrte es den neuen Bot gleich weltweit.
Doch sind Mythos und Fable 5 wirklich so gefährlich? Fest steht: Die beiden KI-Modelle sind besonders gut darin, mithilfe sogenannter Agenten schnell und automatisiert Sicherheitslücken in einer Software zu suchen. Wenn sie eine Schwachstelle finden, können sie ein „Exploit“ erzeugen, um diese auszunutzen. Etwa ein Programm, das in der Lage ist, die Firewall eines Servers zu durchdringen.
Vor zwei Wochen erklärte jedoch Jason Clinton, stellvertretender Leiter für Informationssicherheit bei Anthropic, er vermute, dass in sieben bis zehn Monaten auch KI-Modelle, die für jeden kostenfrei zugänglich sind, Ähnliches können werden. Wenn es so weit sei, „werden wir die härteste und schwierigste Zeit unserer Karriere als Cybersicherheitsexperten durchmachen“.
Dirk Engling,Chaos Computer Club
Unzumutbar gefährlich?
Dirk Engling vom Chaos Computer Club (CCC) sieht das nüchterner: „Was Anthropic macht, ist keine Magie. Es gibt bereits jetzt Open-Source-Projekte, die Ähnliches können wie Mythos und Fable“, erklärt er der taz am Telefon. Das US-Unternehmen verfüge lediglich über das Geld und die nötige Rechenleistung, um schnell eindrucksvolle Ergebnisse zu präsentieren.
Unzumutbar gefährlich für Banken, Regierungen oder den medizinischen Sektor sei das nicht. Engling stimmt zwar zu, dass der IT-Branche eine stressige Zeit bevorstehe. Aber: „Alle Projekte, die bisher auf Hygiene in ihrer Softwaresicherheit geachtet haben, bekommen mit den Agenten ja selbst Werkzeuge in die Hand, um Sicherheitslücken zu finden.“ Dann stünden viele Updates und Patches an.
Dieser Text erschien zuerst in der wochentaz, unserer Wochenzeitung von links!
In der wochentaz geht es jede Woche um die Welt, wie sie ist – und wie sie sein könnte. Eine linke Wochenzeitung mit Stimme, Haltung und dem besonderen taz-Blick auf die Welt. Jeden Samstag neu am Kiosk und natürlich im Abo.
Am Ende sehe er durch neue KI jedoch „eher gute Aussichten auf eine nachhaltige Verbesserung der durchschnittlichen Softwarequalität, auch aus Sicherheitsperspektive“.
Sicherheitslücken ausnutzen
Warum will die US-Regierung Claude dann so dringend für Ausländer verbieten? Engling interpretiert das so: „US-Geheimdienste haben bisher für teures Geld Arsenale an Exploits eingekauft“, um entweder selbst Sicherheitslücken auszunutzen oder sie als Druckmittel gegen Akteure im Ausland einzusetzen. Nun wollten sie nicht, sagt er, dass diese von ausländischen Anthropic-Kund:innen „wiederentdeckt und dann unschädlich gemacht werden“.
Auch andere in der Branche vermuten, das Vorgehen der US-Regierung sei wirtschaftlich motiviert – und politisch. Aus guten Gründen. Personen aus dem Umfeld von Anthropics Erzrivalen OpenAI, Schöpfer:innen von ChatGPT, haben mehrfach hohe Summen an regierungsnahe Institutionen gespendet. Ende 2025 gaben etwa OpenAI-Präsident Greg Brockman und seine Frau 25 Millionen US-Dollar an die Lobbyorganisation MAGA Inc.
Aus den Reihen von Anthropic ist nichts dergleichen bekannt. Stattdessen liegt der Konzern mit der US-Regierung im Clinch – auch wegen Zerwürfnissen bei KI-gestützter Waffentechnik. Am Freitag deutete US-Präsident Donald Trump in einem Interview bei The Axios Show an, dass sich der Konflikt bald entspannen könnte. Auch ein Sprecher von Anthropic äußerte sich entsprechend.
Präzedenzfall für amerikanische Exportkontrollen
Markus Beckedahl vom Zentrum für Digitalrechte und Demokratie blickt in puncto IT-Sicherheit weniger entspannt in die Zukunft als Dirk Engling vom CCC. Einig sind sich die beiden jedoch darin, dass die Vorgänge um Anthropic ein weiteres Signal in Richtung Europa seien, sich unabhängiger von US-Software zu machen.
„Bisher war das immer nur eine theoretische Warnung, dass die US-Regierung über Nacht Exportkontrollen auf amerikanische Infrastruktur verhängen kann, die wir hier einsetzen“, sagt Beckedahl der taz. „Jetzt haben wir dafür einen Präzedenzfall.“
Für Anthropic kommt die KI-bedingte Weltuntergangsstimmung vor dem geplanten Börsengang einem gelungenen PR-Stunt gleich. Eine bessere Werbung als eine US-Regierung, die dein Produkt verbieten will, weil sie sagt, es sei zu gut in dem, was es tut, kann sich wohl niemand wünschen.
50.000 Menschen beteiligen sich bei taz zahl ich – weil unabhängiger, kritischer Journalismus in diesen Zeiten gebraucht wird. Weil es die taz braucht. Dafür möchten wir uns herzlich bedanken! Ihre Solidarität sorgt dafür, dass taz.de für alle frei zugänglich bleibt. Denn wir verstehen Journalismus nicht nur als Ware, sondern als öffentliches Gut. Zahlen muss niemand, aber guter Journalismus hat seinen Preis. Und immer mehr Leser*innen machen mit und entscheiden sich für eine freiwillige Unterstützung der taz! Dieser Schub trägt uns gemeinsam in die Zukunft. Denn wir suchen wir auch weiterhin Ihre Unterstützung. Setzen auch Sie jetzt ein Zeichen für kritischen Journalismus und unterstützen Sie die taz – schon ab 5 Euro. Jetzt unterstützen
meistkommentiert