Anthropic und die US-Regierung: Mit dem Weltuntergang Geschäfte machen
Die neuen Chatbots der KI-Firma Anthropic sind vielleicht doch nicht so gefährlich, wie sie selbst und die US-Regierung behaupten. Warum werden sie dann gesperrt?
Beim Thema KI denken viele wohl zuerst an Sprachmodelle wie ChatGPT. Die einen nutzen den Chatbot, der jede Frage innerhalb von Sekunden beantwortet, als Suchmaschine oder um E-Mails zu verfassen. Andere generieren damit lustige Katzenbilder oder die Flyer für die nächste WG-Party.
Und wieder anderen graut es vor der bösen Super-KI. Etwas wie das Netzwerk Skynet aus dem Sci-Fi-Film „Terminator“ von 1984, das ein Bewusstsein entwickelt, Atomwaffen abfeuert und die Menschheit unterjocht.
Genau mit dieser Angst spielte das US-Unternehmen Anthropic Anfang April, als es die neue Version seines Sprachmodells „Claude“ ankündigte, dem Konkurrenzprodukt zu ChatGPT. „Mythos“, so der Versionsname, sei viel zu gefährlich für den öffentlichen Gebrauch – und werde daher vorerst nicht veröffentlicht. Denn: Das neue Modell übertreffe „alle Menschen außer den Versiertesten darin, Schwachstellen in Software zu finden und auszunutzen“. Was, wenn das in falsche Hände geriete?
Diese Warnung nahm die US-Regierung anscheinend sehr ernst. Am 12. Juni wies das Handelsministerium Anthropic an, den neuen Chatbot wegen Sicherheitsbedenken für Nichtamerikaner:innen abzuschalten, im Aus- und Inland – sogar für Mitarbeiter:innen des Konzerns.
Wie gefährlich sind Mythos und Fable 5 wirklich?
Anthropic hatte Mythos zuvor doch veröffentlicht, aber in seiner „abgesicherten“ Version „Fable 5“. Diese verwies jeden, der Suchbegriffe wie „IT-Sicherheit“, „Hacking“ oder auch „Biowaffen“ eingab, an das nächstleistungsschwächere Modell des Unternehmens.
Kurz darauf warnte jedoch Amazon-CEO Andy Jassy die US-Regierung davor, dass die Schutzmechanismen von Fable 5 umgangen werden könnten. Anthropic konnte das nicht völlig ausräumen. Und weil die weitreichenden Wünsche der Regierung laut dem KI-Unternehmen nicht direkt umzusetzen waren, sperrte es den neuen Bot gleich weltweit.
Doch sind Mythos und Fable 5 wirklich so gefährlich? Fest steht: Die beiden KI-Modelle sind besonders gut darin, mithilfe sogenannter Agenten schnell und automatisiert Sicherheitslücken in einer Software zu suchen. Wenn sie eine Schwachstelle finden, können sie ein „Exploit“ erzeugen, um diese auszunutzen. Etwa ein Programm, das in der Lage ist, die Firewall eines Servers zu durchdringen.
Vor zwei Wochen erklärte jedoch Jason Clinton, stellvertretender Leiter für Informationssicherheit bei Anthropic, er vermute, dass in sieben bis zehn Monaten auch KI-Modelle, die für jeden kostenfrei zugänglich sind, Ähnliches können werden. Wenn es so weit sei, „werden wir die härteste und schwierigste Zeit unserer Karriere als Cybersicherheitsexperten durchmachen“.
Dirk Engling,Chaos Computer Club
Unzumutbar gefährlich?
Dirk Engling vom Chaos Computer Club (CCC) sieht das nüchterner: „Was Anthropic macht, ist keine Magie. Es gibt bereits jetzt Open-Source-Projekte, die Ähnliches können wie Mythos und Fable“, erklärt er der taz am Telefon. Das US-Unternehmen verfüge lediglich über das Geld und die nötige Rechenleistung, um schnell eindrucksvolle Ergebnisse zu präsentieren.
Unzumutbar gefährlich für Banken, Regierungen oder den medizinischen Sektor sei das nicht. Engling stimmt zwar zu, dass der IT-Branche eine stressige Zeit bevorstehe. Aber: „Alle Projekte, die bisher auf Hygiene in ihrer Softwaresicherheit geachtet haben, bekommen mit den Agenten ja selbst Werkzeuge in die Hand, um Sicherheitslücken zu finden.“ Dann stünden viele Updates und Patches an.
Dieser Text erschien zuerst in der wochentaz, unserer Wochenzeitung von links!
In der wochentaz geht es jede Woche um die Welt, wie sie ist – und wie sie sein könnte. Eine linke Wochenzeitung mit Stimme, Haltung und dem besonderen taz-Blick auf die Welt. Jeden Samstag neu am Kiosk und natürlich im Abo.
Am Ende sehe er durch neue KI jedoch „eher gute Aussichten auf eine nachhaltige Verbesserung der durchschnittlichen Softwarequalität, auch aus Sicherheitsperspektive“.
Sicherheitslücken ausnutzen
Warum will die US-Regierung Claude dann so dringend für Ausländer verbieten? Engling interpretiert das so: „US-Geheimdienste haben bisher für teures Geld Arsenale an Exploits eingekauft“, um entweder selbst Sicherheitslücken auszunutzen oder sie als Druckmittel gegen Akteure im Ausland einzusetzen. Nun wollten sie nicht, sagt er, dass diese von ausländischen Anthropic-Kund:innen „wiederentdeckt und dann unschädlich gemacht werden“.
Sie nutzen Google? Sie wollen beim Googeln taz-Texte besser finden? Dann können Sie mit einem Google-Konto die neue Funktion „bevorzugte Quellen“ nutzen. Um die taz als „bevorzugte Quelle“ einzustellen, müssen Sie nur diesen Link anklicken und einen Haken setzen. Fertig.
Sie wollen Google meiden? Kein Problem, es gibt zahlreiche Alternativen. Stellvertretend erwähnt seien Ecosia, DuckDuckGo oder Startpage.
Mehr Details zur Funktion „bevorzugte Quelle“ bei Google finden Sie hier.
Auch andere in der Branche vermuten, das Vorgehen der US-Regierung sei wirtschaftlich motiviert – und politisch. Aus guten Gründen. Personen aus dem Umfeld von Anthropics Erzrivalen OpenAI, Schöpfer:innen von ChatGPT, haben mehrfach hohe Summen an regierungsnahe Institutionen gespendet. Ende 2025 gaben etwa OpenAI-Präsident Greg Brockman und seine Frau 25 Millionen US-Dollar an die Lobbyorganisation MAGA Inc.
Aus den Reihen von Anthropic ist nichts dergleichen bekannt. Stattdessen liegt der Konzern mit der US-Regierung im Clinch – auch wegen Zerwürfnissen bei KI-gestützter Waffentechnik.
Präzedenzfall für amerikanische Exportkontrollen
Markus Beckedahl vom Zentrum für Digitalrechte und Demokratie blickt in puncto IT-Sicherheit weniger entspannt in die Zukunft als Dirk Engling vom CCC. Einig sind sich die beiden jedoch darin, dass die Vorgänge um Anthropic ein weiteres Signal in Richtung Europa seien, sich unabhängiger von US-Software zu machen.
„Bisher war das immer nur eine theoretische Warnung, dass die US-Regierung über Nacht Exportkontrollen auf amerikanische Infrastruktur verhängen kann, die wir hier einsetzen“, sagt Beckedahl der taz. „Jetzt haben wir dafür einen Präzedenzfall.“
Für Anthropic kommt die KI-bedingte Weltuntergangsstimmung vor dem geplanten Börsengang einem gelungenen PR-Stunt gleich. Eine bessere Werbung als eine US-Regierung, die dein Produkt verbieten will, weil sie sagt, es sei zu gut in dem, was es tut, kann sich wohl niemand wünschen.
Die taz gehört zu 100 Prozent ihren Leser:innen und ist damit nicht nur konzernfrei, sondern auch kostenfrei zugänglich. Alle Artikel stellen wir frei zur Verfügung, ohne Paywall. Gerade in diesen Zeiten müssen Einordnungen und Informationen allen zugänglich sein. Unsere Leser:innen müssen nichts bezahlen, wissen aber, dass kritischer, unabhängiger Journalismus nicht aus dem Nichts entsteht. Dafür sind wir sehr dankbar. Damit wir auch morgen noch unseren Journalismus machen können, brauchen wir mehr Unterstützung für taz zahl ich. Unser nächstes Ziel: 50.000 – wir brauchen nur noch 180 Freiwillige, dann haben wir es geschafft! Setzen Sie jetzt ein Zeichen für die taz und machen Sie mit. Mit nur 5,- Euro sind Sie dabei! Jetzt unterstützen
meistkommentiert