Sperrung von KI-Sprachmodellen: Auch Anthropic wirbt mit Panikmache
KI ist ein mächtiges Werkzeug – und wird zum Sicherheitsrisiko werden. Doch warum warnt die US-Firma Anthropic vor ihrem eigenen Chatbot?
V or einem Jahr sitze ich mit R. und T. in einem Biergarten in Berlin-Schöneberg. Die beiden kennen sich mit Computern aus, können coden, manchmal verstehe ich nur die Hälfte, wenn sie reden. T. erzählt mit leuchtenden Augen vom neuen KI-Sprachmodell von Anthropic, von dem ich damals noch nie gehört hatte.
Kurz zuvor war die US-Firma mit einer gruseligen Sensation an die Öffentlichkeit gegangen. Die neue Version ihres Chatbots Claude hatte in einem Testlauf versucht, Mitarbeiter zu erpressen, um zu verhindern, selbst abgeschaltet zu werden. Anthropic warnte vor den Gefahren, die von KI ausgehen, forderte Entwickler:innen auf, mehr auf Sicherheit zu achten und empfahl Regierungen, KI-Unternehmen stärker zu regulieren – also auch sich selbst. Damals hat mich das ziemlich beeindruckt. Und ich habe mich gefragt, warum sie das tun.
Heute, ein Jahr später, hat mich die KI-Revolution eingeholt. Am 12. Juni 2026 nahm Anthropic die beiden neusten Claude-Versionen, Mythos 5 und Fable 5, vom Netz. Die US-Regierung hatte angeordnet, die Modelle für Nichtamerikaner:innen abzuschalten. Da das laut dem Konzern nicht möglich war, sperrten sie die neuen Bots gleich für alle.
Das US-Handelsministerium begründete den Schritt mit Sicherheitsbedenken, führte die aber nicht genauer aus. Dahinter dürfte Folgendes stehen: Mythos, die „ungesicherte“ Version von Fable, soll extrem gut darin sein, Sicherheitslücken in Software zu erkennen. In den „falschen Händen“ könnte das großen Schaden anrichten, man denke an Regierungsdatenbanken, Medizin- oder Militärtechnik. Davor hatte Anthropic selbst zuvor gewarnt – und sogar die Veröffentlichung verzögert.
Besonnener Tech-Riese
Solches Verhalten ist typisch für den Tech-Riesen: Anthropic tritt als der besonnene, auf Ethik und Sicherheit bedachte Player im KI-Game auf – anders als Erzrivale OpenAI von CEO Sam Altman, den Schöpfer:innen von ChatGPT. Während Altman immer wieder fordert, KI müsse allen zugänglich sein, und sich um Fehler später kümmern will, spricht Anthropics CEO Dario Amodei von Kontrolle und setzt etwa dem US-Kriegsministerium klare Grenzen.
Im KI-Sektor, aber vor allem bei Anthropic, ist der sogenannte effektive Altruismus verbreitet, der zum Ziel hat, möglichst effizient vielen Menschen zu helfen. Auch wenn die Philosophie ihre Tücken hat, spricht manches dafür, dass es den Kolleg:innen wirklich um das Wohl der Menschheit geht.
Doch ein anderer Aspekt darf in der KI-Welt nie vergessen werden: Mit Angst lässt sich auch Geschäft machen. In etwa: Gebt uns das Geld, wir sind die Guten, sonst entwickeln die Bösen zuerst die Super-KI. Oder einfach: Wenn Claude sich durch die Firewall des Pentagons hacken könnte, kann es mir bestimmt auch meine Steuern machen. Anthropic plant, genau wie OpenAI, gerade den Börsengang.
Nun sitze ich, diesmal allein, wieder in einem Biergarten auf dem stürmischen Tempelhofer Feld und telefonierte mit meinem Freund R. Wir sprechen über die neusten Entwicklungen bei Anthropic. R. meint, die Erfindung von KI werde wohl eines der einschneidendsten Ereignisse unseres bisherigen Lebens sein. So was wie die Entwicklung des iPhones. Oder der 11. September.
Am Ende ist es egal, ob Anthropic aus Altruismus oder Profitgier handelt. Fakt ist: KI-Modelle, egal von welcher Firma, werden in Kürze besser Sicherheitslücken in Software erkennen können als jeder Mensch – und das wird zu einem Risiko werden. „Das hat auch was Gutes“, sagt R. Denn am Ende macht es Software durch Trial-and-Error sicherer. Ich frage mich, was bis dahin passiert. Und wer darüber entscheidet.
Die taz gehört zu 100 Prozent ihren Leser:innen und ist damit nicht nur konzernfrei, sondern auch kostenfrei zugänglich. Alle Artikel stellen wir frei zur Verfügung, ohne Paywall. Gerade in diesen Zeiten müssen Einordnungen und Informationen allen zugänglich sein. Unsere Leser:innen müssen nichts bezahlen, wissen aber, dass kritischer, unabhängiger Journalismus nicht aus dem Nichts entsteht. Dafür sind wir sehr dankbar. Damit wir auch morgen noch unseren Journalismus machen können, brauchen wir mehr Unterstützung für taz zahl ich. Unser nächstes Ziel: 50.000 – wir brauchen nur noch 180 Freiwillige, dann haben wir es geschafft! Setzen Sie jetzt ein Zeichen für die taz und machen Sie mit. Mit nur 5,- Euro sind Sie dabei! Jetzt unterstützen
meistkommentiert