Sperrung von KI-Sprachmodellen: Im Biergarten mit der Superintelligenz
KI ist ein mächtiges Werkzeug – und wird zum Sicherheitsrisiko werden. Doch warum warnt die US-Firma Anthropic vor ihrem eigenen Chatbot?
V or einem Jahr sitze ich mit R. und T. in einem Biergarten in Berlin-Schöneberg. Die beiden kennen sich mit Computern aus, können coden, manchmal verstehe ich nur die Hälfte, wenn sie reden. T. erzählt mit leuchtenden Augen vom neuen KI-Sprachmodell von Anthropic, von dem ich damals noch nie gehört hatte.
Kurz zuvor war die US-Firma mit einer gruseligen Sensation an die Öffentlichkeit gegangen. Die neue Version ihres Chatbots Claude hatte in einem Testlauf versucht, Mitarbeiter zu erpressen, um zu verhindern, selbst abgeschaltet zu werden. Anthropic warnte vor den Gefahren, die von KI ausgehen, forderte Entwickler:innen auf, mehr auf Sicherheit zu achten und empfahl Regierungen, KI-Unternehmen stärker zu regulieren – also auch sich selbst. Damals hat mich das ziemlich beeindruckt. Und ich habe mich gefragt, warum sie das tun.
Heute, ein Jahr später, hat mich die KI-Revolution eingeholt. Am 12. Juni 2026 nahm Anthropic die beiden neusten Claude-Versionen, Mythos 5 und Fable 5, vom Netz. Die US-Regierung hatte angeordnet, die Modelle für Nichtamerikaner:innen abzuschalten. Da das laut dem Konzern nicht möglich war, sperrten sie die neuen Bots gleich für alle.
Das US-Handelsministerium begründete den Schritt mit Sicherheitsbedenken, führte die aber nicht genauer aus. Dahinter dürfte Folgendes stehen: Mythos, die „ungesicherte“ Version von Fable, soll extrem gut darin sein, Sicherheitslücken in Software zu erkennen. In den „falschen Händen“ könnte das großen Schaden anrichten, man denke an Regierungsdatenbanken, Medizin- oder Militärtechnik. Davor hatte Anthropic selbst zuvor gewarnt – und sogar die Veröffentlichung verzögert.
Besonnener Tech-Riese
Solches Verhalten ist typisch für den Tech-Riesen: Anthropic tritt als der besonnene, auf Ethik und Sicherheit bedachte Player im KI-Game auf – anders als Erzrivale OpenAI von CEO Sam Altman, den Schöpfer:innen von ChatGPT. Während Altman immer wieder fordert, KI müsse allen zugänglich sein, und sich um Fehler später kümmern will, spricht Anthropics CEO Dario Amodei von Kontrolle und setzt etwa dem US-Kriegsministerium klare Grenzen.
Im KI-Sektor, aber vor allem bei Anthropic, ist der sogenannte effektive Altruismus verbreitet, der zum Ziel hat, möglichst effizient vielen Menschen zu helfen. Auch wenn die Philosophie ihre Tücken hat, spricht manches dafür, dass es den Kolleg:innen wirklich um das Wohl der Menschheit geht.
Doch ein anderer Aspekt darf in der KI-Welt nie vergessen werden: Mit Angst lässt sich auch Geschäft machen. In etwa: Gebt uns das Geld, wir sind die Guten, sonst entwickeln die Bösen zuerst die Super-KI. Oder einfach: Wenn Claude sich durch die Firewall des Pentagons hacken könnte, kann es mir bestimmt auch meine Steuern machen. Anthropic plant, genau wie OpenAI, gerade den Börsengang.
Nun sitze ich, diesmal allein, wieder in einem Biergarten auf dem stürmischen Tempelhofer Feld und telefoniere mit meinem Freund R. Wir sprechen über die neusten Entwicklungen bei Anthropic. R. meint, die Erfindung von KI werde wohl eines der einschneidendsten Ereignisse unseres bisherigen Lebens sein. So was wie die Entwicklung des iPhones. Oder der 11. September.
Am Ende ist es egal, ob Anthropic aus Altruismus oder Profitgier handelt. Fakt ist: KI-Modelle, egal von welcher Firma, werden in Kürze besser Sicherheitslücken in Software erkennen können als jeder Mensch – und das wird zu einem Risiko werden. „Das hat auch was Gutes“, sagt R. Denn am Ende macht es Software durch Trial-and-Error sicherer. Ich frage mich, was bis dahin passiert. Und wer darüber entscheidet.
50.000 Menschen beteiligen sich bei taz zahl ich – weil unabhängiger, kritischer Journalismus in diesen Zeiten gebraucht wird. Weil es die taz braucht. Dafür möchten wir uns herzlich bedanken! Ihre Solidarität sorgt dafür, dass taz.de für alle frei zugänglich bleibt. Denn wir verstehen Journalismus nicht nur als Ware, sondern als öffentliches Gut. Zahlen muss niemand, aber guter Journalismus hat seinen Preis. Und immer mehr Leser*innen machen mit und entscheiden sich für eine freiwillige Unterstützung der taz! Dieser Schub trägt uns gemeinsam in die Zukunft. Denn wir suchen wir auch weiterhin Ihre Unterstützung. Setzen auch Sie jetzt ein Zeichen für kritischen Journalismus und unterstützen Sie die taz – schon ab 5 Euro. Jetzt unterstützen
meistkommentiert