: Stehen geblieben!
Deutschland und andere Industriestaaten rüsten wieder auf – und setzen dabei auf künstliche Intelligenz. Wie lässt sich verhindern, dass Algorithmen in Zukunft über Leben und Tod entscheiden?
Foto: imago, Bearbeitung: taz
Von Olivia Samnick
Es braucht nur knapp 20 Sekunden und wenige Klicks am Rechner. Daraufhin folgt eine Explosion mitten in einem Wohnviertel. „Lavender“ heißt das KI-gestützte System, mit dem ein Offizier der israelischen Armee in unter einer Minute einen Namen markieren und einen Menschen zum Angriffsziel machen kann. Dann übernimmt ein zweites System mit dem Namen „Where’s Daddy?“, auf Deutsch „Wo ist Papa?“. Es ist darauf spezialisiert, Personen zu Hause zu orten. Das Ziel, ein Mann, befindet sich meist in einem Wohnhaus. Genau dort, mitten in der Nachbarschaft, bei Frau und Kindern, schlägt die nächste Bombe ein. So berichten das israelisch-palästinensische Onlinemagazin +972 und das Schwestermedium Local Call über den Einsatz von KI-Systemen durch das israelische Militär. Die Recherche stützt sich auf Aussagen von israelischen Geheimdienstmitarbeitenden, die anonym bleiben möchten. Das Militär selbst dementiert den Bericht.
37.000 Menschen soll „Lavender“ kurz nach dem Hamas-Massaker als mutmaßliche Mitglieder der Hamas oder des Islamischen Dschihad eingestuft haben. So steht es in dem Bericht der israelisch-palästinensischen Medien. Zudem berichten sie über eine Fehlerquote von rund 10 Prozent, das sind mehrere tausend mögliche Fehlurteile. Dazu kommen die eingepreisten Kollateralschäden: die zahlreichen zivilen Opfer, die ihr Leben verlieren, wenn „Where’s Daddy“ eine Person erfolgreich geortet hat und eine Bombe in ein Wohnhaus einschlägt.
Wo früher Geheimdienstanalyst:innen ein paar Dutzend sorgfältig recherchierte Ziele pro Woche schafften, liefert eine KI-gestützte Software wie Lavender nun Tausende Ziele in kürzester Zeit. Die Gefahr: Künstliche Intelligenz wird im Krieg zu einer Maschine, die so schnell Todeslisten schreibt und Ziele anfliegt, dass Überprüfung und Steuerung durch Menschen Fiktion werden.
Die Auswirkungen von KI-Waffensystemen sind nicht nur in Gaza verheerend. Auch in Iran etwa starben im Frühjahr 2026 Dutzende Kinder und Lehrkräfte, als eine Mädchenschule durch KI-Technologie aus den USA angegriffen wurde, weil die Schule mutmaßlich in einer veralteten Datenbank als Militärobjekt codiert war. Im Sudankrieg werden billige, autonome Drohnen in dicht besiedelten Gebieten eingesetzt, wo kaum zwischen Zivilist:innen und Kombattant:innen zu unterscheiden ist. Die Liste lässt sich fortsetzen.
Heute beraten Large-Language-Modelle, also KI-Modelle, die menschliche Sprache verarbeiten und Texte generieren, Soldat:innen. Navigations-Algorithmen helfen militärische Ziele anzufliegen, Entscheidungs-Algorithmen schlagen Angriffe vor. Unbemannte Kamikazedrohnen und andere sogenannte Killerroboter dienen als Waffen. Letztere nennt man im militärischen Fachjargon „LAWS“, letale autonome Waffensysteme. Es sind hochkomplexe Systeme, in denen KI in unterschiedlichem Grad eingesetzt wird und die so auch eigenständig töten können.
Keine Regeln für KI-Waffen
KI-Waffensysteme haben weitreichende Folgen, weitgreifende Regeln für ihren Einsatz fehlen jedoch noch. Während Österreich als einer der Pioniere bei Verbotsverfahren für risikoreiche Hochtechnologiewaffen gilt, bleibt Deutschland bei der Regulierung automatisierter Waffensysteme auffällig still. George-Wilhelm Gallhofer ist Leiter der Abrüstungsabteilung im österreichischen Außenministerium. „Wir haben 2023 die erste Resolution der UN-Generalversammlung auf den Weg gebracht, um mehr Bewusstsein zu schaffen und die Regulierung von LAWS voranzutreiben“, sagt Gallhofer. Trotzdem gibt es bislang weder eine internationale Grundsatzverständigung noch eine Resolution, auf die sich international geeinigt wurde. Sehr wohl existieren aber Ideen und Wege, um zu verbindlichen Verboten von autonomen Waffensystemen zu kommen, die als besonders riskant gelten. Wie sehen diese aus? Und woran hapert es bislang?
Die Verbotsdebatte ist nicht ganz neu. Von Atomwaffen bis Landminen: Für einige hochriskante Waffen hat die Weltgemeinschaft schon Regularien gefunden. Die folgten jedoch oft erst nach einem gewissen Druck, etwa als der Schock durch die Kubakrise einen drängenden Anlass für die Restriktion von Atomwaffen gab.
Nur heute ist einiges anders: Landminen kann man zählen und Bestände vernichten. KI-Software in Kriegsgeräten ist dagegen unsichtbar und mit wenig Aufwand kopierbar. Und: KI-Autonomie ist ein Spektrum – allein die Frage, ab wann ein System autonom ist, spaltet bereits Verhandlungen.
Eine Regulation, die am Ist-Zustand Maß nimmt, hinkt immer den Realverhältnissen hinterher. Denn das Entwicklungstempo autonomer Systeme überschlägt sich förmlich. Expert:innen sprechen von einer Aufrüstungsspirale: Staaten bauen ihre Waffenbestände immer weiter aus. Das Credo, gerade der führenden Industrieländer, scheint zu lauten: Innovation first – und bitte bei uns!
Milliarden für Rüstung
Immer mehr Gelder fließen in den Rüstungssektor. Die Bundeswehr verfügt im Jahr 2026 über knapp 108 Milliarden Euro, in 2027 sollen es knapp 140 Milliarden Euro werden. Davon profitieren nicht mehr nur etablierte Firmen wie Rheinmetall oder Hensoldt, sondern auch Start-ups, die verschiedene autonome Waffensysteme entwickeln. Rüstung galt noch bis vor dem russischen Angriffskrieg bei Investoren als eher unbeliebt. Nun aber schließen Jungfirmen große Finanzierungsrunden ab. Sie entwickeln Waffensysteme bevor der Bund diese überhaupt geordert hat, in Teilen finanziert von rechtslibertären Kräften wie US-Techmilliardär Peter Thiel. Wollen wir es tatsächlich dem moralischen Kompass von Tech-Enthusiasten und Unternehmern überlassen, wie tödlich Kriege durch KI noch werden könnten?
Laut den Genfer Konventionen muss die letzte Entscheidung für eine Tötung von Menschen oder Zerstörung von Objekten beim Waffeneinsatz beim Menschen liegen, so Jutta Weber, Professorin für Mediensoziologie am Institut für Medienwissenschaften der Universität Paderborn und Expertin für KI-basierte Kriegsführung.
Ein Beispiel aus der Geschichte zeigt: Der Mensch ist als Korrektiv unverzichtbar. Am 26. September 1983 schlug ein sowjetisches Frühwarnsystem Alarm. Fünf US-Atomraketen seien vermeintlich im Anflug. Die Vorschrift verlangte, den Angriff sofort zu melden, um einen vernichtenden Gegenschlag zu starten. Doch der diensthabende Offizier zögerte. Nur eine Handvoll Raketen für einen Erstangriff erschienen ihm ungewöhnlich. Also meldete er – entgegen den Empfehlungen des Systems – den vermeintlichen Angriff nicht. Er verhinderte so womöglich einen Atomkrieg.
Bei KI-Waffensystemen gilt heute der „Human-in-the-loop“-Ansatz als Goldstandard. Das heißt, dass ein Mensch im Prozess eingebunden ist. Sein Urteilsvermögen ist gefragt und er bewacht Prozesse mit. Es ist zumindest eine Regel, auf die sich viele Länder bislang einigen konnten. Doch die Schutzwirkung ist begrenzt: Selbst wenn ein Mensch einbezogen ist, sind bereits automatisierte Teilentscheidungen gefallen, die er kaum nachvollziehen kann. Und viele Systeme sind schon jetzt darauf ausgelegt, perspektivisch völlig autark zu funktionieren.
So können die Genfer Konventionen, Herzstück des internationalen Völkerrechts, nicht richtig umgesetzt werden, warnt Jutta Weber im Gespräch mit der taz: „Wenn Entscheidungen in Maschinengeschwindigkeit getroffen werden, kann das nicht funktionieren.“
Minderheit in der UN blockiert
Wie diskutiert die Weltgemeinschaft über KI-Waffensysteme? Dazu lohnt der Blick an die Spitze der Vereinten Nationen. UN-Generalsekretär António Guterres sieht sich schon seit Beginn seiner Amtszeit 2018 einem kleinen, aber beachtlich störrischen Haufen gegenüber: eine Minderheit der 193 Mitgliedstaaten blockiert strikte Regeln oder gar ein Verbot bestimmter KI-Waffen. Zu den Blockierern gehören vor allem die USA, Russland, Indien und Israel. Erst vor wenigen Wochen appellierte Guterres an die Vereinten Nationen: „Wir sind gefährlich nah dran, eine moralische rote Linie zu überschreiten: die autonome Zielerfassung von Menschen durch Maschinen.“ Es ist nicht seine erste Mahnung an die politischen Entscheider:innen. Doch sie ist drängender als je zuvor, ab einem gewissen Punkt ist die technologische Verbreitung und geopolitische Eigendynamik nicht mehr regulierbar. Das betont auch Gallhofer, der Leiter der Abrüstungsabteilung in Österreich.
Die Mehrheit der Staaten sieht das ein, die vertretenen Nationen wären durchaus in der Lage, international bindende Regularien für den KI-Einsatz durchzusetzen. Das Europäische Parlament fordert ein vollständiges Verbot bestimmter Waffen. Die Menschenrechtsorganisation Amnesty International vertritt die Ansicht, „dass der Einsatz von autonomen Waffensystemen zur direkten Anwendung von Gewalt gegen Menschen niemals mit den internationalen Menschenrechtsnormen und dem humanitären Recht vereinbar sein kann.“ Der Vatikan wünscht sich einen vorläufigen Stopp von KI-Nutzung im Krieg, bis es eine rechtsverbindliche globale KI-Waffensystemregelung gibt.
Die Länder, die sich im UN-Büro in Genf bei der UN-Waffenkonvention (CCW) querstellen, haben eins gemeinsam, sagt Thomas Küchenmeister von der Kampagne „Stop Killer Robots“. „Die Länder, die blockieren, sind die Technologieführer und Anwender von KI-gestützten, autonomen Systemen“. Küchenmeister ist Koordinator des deutschen Zweigs der internationalen Kampagne für ein weltweites, völkerrechtlich verbindliches Verbot von vollständig autonomen Waffensystemen. Er sagt: „Nach Schwarzpulver und Nuklearwaffen stehen autonome Waffen für die dritte Revolution der Kriegsführung.“ Die bremsenden Länder aber pochten auf unverbindliche Verhaltenskodizes. KI-Regulation wird also besprochen, aber möglichst wirkungsschwach. „Auf dem geringsten, unverbindlichsten Level hat man Einigungen erzielt“, sagt Küchenmeister über die Vereinten Nationen.
Jutta Weber, Professorin für Mediensoziologie
Übrigens: Die Bundesregierung hielt sich in der Vergangenheit auffällig zurück in Sachen KI-Restriktionen. Ein Koalitionsversprechen, sich des Themas anzunehmen, gibt es bereits seit 2013. Die Kampagne „Stop Killer Robots“ kritisiert, dass es immer wieder gebrochen wird. CDU/CSU, FDP und AfD lehnen ein komplettes Verbot KI-gestützter Waffen ab. Als eines der letzten Nato-Mitglieder war Deutschland bis vor wenigen Monaten ohne KI-Strategie für sein Militär. Die gerade vorgelegte KI-Konzeption der Bundeswehr gehe nicht über allgemeine ethische Grundsätze hinaus, meint Küchenmeister. Es fehlten klare Grenzen für autonome Gewaltanwendung, überprüfbare Sicherheitsstandards, transparente Verantwortungsstrukturen und Vorgaben für wirksame unabhängige Kontrolle.
Dabei könnte in der Debatte um Verbote und Regulierung der Westen von Ländern des sogenannten Globalen Südens lernen, meint Ishmael Bhila. Er ist Friedensforscher an der Universität Paderborn. Schon im Jahr 2025 etwa unterstützten 49 von 54 afrikanischen Staaten die jüngste Resolution der Vereinten Nationen zu völlig autarken KI-Waffen. Zeitgleich werden seit Jahren eigene Ansätze formuliert, da einige Länder des Globalen Südens eher Importeure als Entwickler autonomer Waffensysteme sind und/oder dem Einsatz dieser Waffen besonders ausgesetzt. Da hier in Kriegen KI-Waffen eingesetzt werden, sind die dadurch entstehenden Schäden unmittelbar spürbar. Sierra Leone brachte bereits 2021 im Namen von elf Staaten eine gemeinsame Erklärung für ein verbindliches Instrument ein. Die Blockfreien-Bewegung aus 120 Ländern, die sich im Kalten Krieg weder dem westlichen Lager noch dem Ostblock anfügen wollten, forderte 2022 ebenfalls ein verbindliches Instrument.
Gibt es noch Hoffnung?
Für ein internationales Abkommen für autonome Waffensysteme und das Verbot von LAWS gäbe es gangbare Wege: Einer davon ist eine Einigung im Rahmen der UN-Waffenkonvention CCW in Genf. Anstoß gab es dafür bereits: „Eine Gruppe von 16 Ländern aus dem Globalen Süden schlug vor, dass wir im CCW ein sechstes Protokoll über autonome Waffensysteme einführen“, sagt Friedensforscher Bhila. Bislang gab es fünf Protokolle, etwa zu Landminen, Bio- und Laserwaffen.
In Protokoll VI würde geregelt werden, wie autonome Waffensysteme definiert und reguliert werden – und, viel wichtiger, wann sie verboten sind. Das hätte den Vorteil, dass fast alle relevanten Militärmächte von vornherein mit am Tisch säßen: die USA, Russland und China. Die Vereinbarung wäre international belastbar. Allerdings gibt es eine große Hürde, denn der Prozess arbeitet nach einem Konsensprinzip. Stimmt nur eine Nation mit einem Veto, sind die verbindlichen Regelungen blockiert. „Das heißt, auch Länder, die gerade andere angreifen, müssten zustimmen“, sagt Bhila. Die Aussicht, so eine Einigung zu erzielen, ist gelinde gesagt gering. Immerhin versucht man es schon seit über einem Jahrzehnt.
Einen kleinen Erfolg gab es zwischenzeitlich auf UN-Ebene. Am 5. September 2026 einigten sich 128 Nationen erstmals auf eine vorläufige gemeinsame Definition von LAWS. Auch Deutschland stimmte für eine gemeinsame Basis für Verhandlungen über ein völkerrechtlich verbindliches Abkommen. Diese Definition war dringend notwendig, damit in die nächste Verhandlung gegangen werden kann. Vom 16. bis zum 20. November werden die Delegierten in Genf zum siebten Mal versuchen, was sechs Mal zuvor gescheitert ist: internationale Verbindlichkeiten herzustellen.
Ist ein Konsens in Genf nicht möglich, gibt es noch einen zweiten Weg für internationale Regeln. Das Paradebeispiel dafür ist die Ottawa-Konvention. Im Herbst 1996 steckte die internationale Gemeinschaft fest. Bei den Genfer Verhandlungen über ein Minenverbot blockierte das Konsensprinzip jeden Fortschritt. Doch außerhalb der Konferenzsäle hatte sich etwas aufgebaut. Eine Schlüsselrolle spielte die 1992 gegründete Internationale Kampagne zum Verbot von Landminen (ICBL), ein Bündnis aus Hilfsorganisationen, das Opfer, Minenräumer:innen und Ärzt:innen an einen Tisch brachte und prominente Unterstützung hatte. Bilder von Prinzessin Diana, die durch ein Minenfeld in Angola schreitet, gingen um die Welt.
Auf einer Konferenz in Ottawa kam dann der Schlüsselmoment: Kanadas Außenminister Lloyd Axworthy forderte die Staaten auf, nicht länger auf Genf zu warten und binnen eines Jahres in Ottawa einen Vertrag zu unterzeichnen. 14 Monate später, im Dezember 1997, war es so weit. Die Ottawa-Konvention gilt als Meilenstein humanitärer Abrüstung. Aus einer Koalition der Willigen wurde ein völkerrechtlicher Vertrag, der Landminen ächtet. Über 160 Staaten haben das Abkommen mittlerweile ratifiziert, mehrere Millionen gelagerte Landminen wurden unschädlich gemacht.
Was damals gelungen ist, könnte auch heute funktionieren. Staaten finden sich außerhalb der Konsensgremien eigenständig zusammen, um dem blockierten UN-Forum zu entkommen. Der Vorteil wäre, dass eine Einigung deutlich schneller umsetzbar wäre und den Druck auf Nichtunterzeichner erhöhen wurde. Allerdings gibt es auch Hürden: Der Weg über Ottawa funktionierte, weil das Verbot umzusetzen vergleichsweise wenig kostete. Zudem ließ sich das Ziel – Antipersonenminen zu verbieten – viel klarer fassen als heute. Dagegen definieren sich LAWS, also hochriskante KI-Waffensysteme, unter anderem über den Grad ihrer Autonomie. Sich darauf zu einigen, was genau verboten gehört, ist schwieriger greifbar und die Durchsetzung eines Verbots später auch schwieriger kontrollierbar. Noch dazu würden die Großmächte der Verhandlung aller Wahrscheinlichkeit fernbleiben. Heißt: Die Wirkung wäre erst mal viel mehr symbolisch und weniger verbindlich für die Entwickler von sogenannten KI-Killer-Robotern.
António Guterres, UN-Generalsekretär
Ob am Ende ein Zusatzprotokoll für den Umgang mit KI-Waffensystemen steht oder aber ein Vertrag, den einige Staaten an Genf vorbei schließen, ist zweitrangig. Entscheidend ist, was darin steht. Ein Abkommen, das den Namen verdient, muss Systeme ächten, die sich nicht völkerrechtskonform einsetzen lassen, und für alle anderen festschreiben, was eine „bedeutsame menschliche Kontrolle“ tatsächlich ausmacht.
Wenn man die Verhandlungen weg von der konsensgebundenden UN-Waffenkonvention auf die UN-Generalversammlung in New York City verlagert, tut sich ein dritter Weg für die Weltgemeinschaft auf, hier kann eine Resolution mit einer einfachen oder Zweidrittelmehrheit verabschiedet werden. Das würde politischen Druck erzeugen und wäre deutlich schneller umsetzbar. Allerdings wäre eine solche Resolution nicht rechtlich bindend, und es bräuchte einen weiteren Schritt für einen echten Vertrag mit Ratifizierungspflicht. Den Anstoß müssten Vorreiter unter den UN-Mitgliedern geben, etwa Österreich, das sich in der Vergangenheit schon durch Anstöße für Verhandlungen hervorgetan hat.
Der Begriff Oppenheimer-Moment wurde geprägt, als Oppenheimer, der Erfinder der Atomwaffe, ihre tödlichen Auswirkungen realisierte. Er wird seither für neue, besonders mächtige Technologien verwendet, die die Welt grundlegend verändern können und deren Kontrolle den Menschen entgleitet. In Bezug auf KI-Waffen wird sich bald zeigen, was die gegenwärtige Weltgemeinschaft mit ihrem Oppenheimer-Moment anfangen wird.
Mitarbeit: Bartholomäus Laffert
