Ukraine nutzt KI von Palantir: Daten als neue Munition
Die US-Datenfirma Palantir liefert Software an die Ukraine, um feindliche Truppenbewegungen zu verfolgen. Ist das rechtlich und moralisch vertretbar?
Auf dem Display des Smartphones zu sehen: Alex Karp, Geschäftsführer von Palantir Technologies Foto: Arnd Wiegmann/reuters
Zu den Eigentümlichkeiten des Ukraine-Kriegs gehört, dass er mit den militärischen Mitteln und Taktiken des 20. Jahrhunderts geführt, aber mit Instrumenten des 21. Jahrhunderts organisiert wird. Brutale Abnutzungskämpfe in Schützengräben wie im Ersten Weltkrieg stehen satellitengestütztem Internet und Kryptofinanzierung gegenüber. Vor Kurzem wurde bekannt, dass die Ukraine bei der militärischen Zielerkennung, dem sogenannten „Targeting“, eine Künstliche Intelligenz der US-Firma Palantir nutzt.
Die Software namens MetaConstellation, die Palantir der Ukraine kostenlos zur Verfügung stellt, verarbeitet massenhaft Daten von Satelliten, Flugzeugsensoren und Drohnen, um in Echtzeit feindliche Truppenbewegungen zu verfolgen. Palantir-Chef Alex Karp jubilierte, die „Macht ausgefeilter algorithmischer Waffensysteme“ sei mittlerweile vergleichbar mit dem Besitz einer taktischen Atomwaffe.
Die verbale Offensive überrascht, heißt es doch immer, man müsse in dem Konflikt „rhetorisch abrüsten“. Doch Karp kann sich solche forschen Töne erlauben. Palantir ist einer der größten Player im globalen Überwachungskapitalismus. Die vom rechts-libertären Investor Peter Thiel gegründete Firma, die in der Anfangsphase vom Wagniskapitalarm der CIA mitfinanziert wurde, liefert Analysesoftware an Behörden auf der ganzen Welt.
Durch die Hintertür zur Kriegspartei
Es ist ein lukratives, aber gleichsam verschwiegenes Geschäft. Zu den Kunden von Palantir gehören neben US-Geheimdiensten und -konzernen unter anderem auch die Polizei in Hessen, deren eingesetzte Fahndungssoftware HessenData jüngst vom Bundesverfassungsgericht für teilweise verfassungswidrig erklärt wurde. Das Überwachungsnetz, das die umstrittene Analysefirma über die Welt geworfen hat, ist so engmaschig, dass sich darin nicht nur Terroristen und Drogendealer, sondern auch Betrüger wie der mittlerweile verstorbene Börsenmakler Bernie Madoff verfangen haben. Und möglicherweise auch russische Kriegsverbrecher. Palantir-Chef Karp erklärte in kühl-technischem Militärjargon, die Software seines Unternehmens sei für den größten Teil des „Targetings“ in der Ukraine verantwortlich.
Dabei stellt sich aus völkerrechtlicher Perspektive eine wichtige Frage: Wenn Teile der Befehlskette, nämlich die datengestützte Zielverfolgung, an ein US-Unternehmen delegiert werden, werden dann die USA durch die Hintertür zur Kriegspartei? Es ist schon erstaunlich: Über die Lieferung von Panzern wird hitzig diskutiert, über die Lieferung von Software und Daten jedoch kaum. Dabei sind Daten im Krieg mindestens so wichtig wie Munition.
Das weiß auch Palantir-Chef Karp, der sich als Teil einer Guerilla-Truppe sieht, die nicht nur für den Westen, sondern auch für ihre Anteilseigner kämpft. Viele Anleger, die in das börsennotierte Unternehmen investierten, spekulierten auf eine steigende Nachfrage an Überwachungssoftware im „Global War on Terror“.
„Mehr Google als Lockheed“, so beschrieb das Tech-Magazin „Wired“ einmal die Unternehmenskultur von Palantir – mehr Suchmaschine als Rüstungskonzern. Die Webseite des Konzerns wirkt wie die eines Biolabors. In einem Imagefilm blicken Menschen in medizinischer Kleidung in Mikroskope und füllen Reagenzgläser ab, laufen Impfampullen und Einwegmasken vom Band; in einer fast schon rührenden Szene hält eine Pflegerin am Krankenbett die Hand einer Seniorin. Der Hintergrund: Palantir hat einen millionenschweren Deal mit dem britischen Gesundheitsdienst NHS geschlossen – die Bilder von fürsorgendem Pflegepersonal lassen sich besser vermarkten als die bewaffneter Soldaten. Doch vieles von dem, was die T-Shirt-tragenden Softwareentwickler in ihren hippen Start-up-Räumen zu Code verschrauben, landet am Ende bei der Polizei oder dem Militär.
Waffenfähige Daten
So konnte die US-Armee mit einer Mustererkennungssoftware von Palantir herausfinden, dass Terroristen im Irak Garagentüröffner als ferngesteuerte Detonatoren benutzen. Auch bei der Aufspürung des Verstecks von Osama bin Laden soll die dubiose Datenfirma eine Rolle gespielt haben. Wenn die Ukraine nun bei der militärischen Zielauswahl auf die Software von Palantir zurückgreift, ist das, zumindest instrumentell, eine Fortsetzung des Krieges gegen den Terror. Nur: Wo und von wem werden die Entscheidungen getroffen? Wie hoch ist die Trefferrate? Was, wenn die Künstliche Intelligenz sich irrt?
Das Bundesverwaltungsgericht hat in seinem Urteil zu US-Drohneneinsätzen entschieden, dass die bloße Durchleitung von Datenströmen über eine Satelliten-Relaisstation an der Air Base Ramstein keine grundrechtlichen Schutzpflichten des deutschen Staates auslöst. Diese seien nur für „Handlungen oder technische Abläufe auf deutschem Staatsgebiet“ zu bejahen, „die einen relevanten Entscheidungscharakter aufweisen“. Das wäre zum Beispiel die Erstellung von Ziellisten oder Auswertung von Informationen.
Nun lässt sich die deutsche Grundrechtsdogmatik nicht auf das Völkerrecht anwenden. Doch das Erfordernis einer „völkerrechtskonformen Zielauswahl“ gilt auch für private, staatlich mandatierte Unternehmen wie Palantir, zumal deren Software auch nach eigenen Angaben einen erheblichen Entscheidungs- und Steuerungscharakter hat.
Interessant in diesem Kontext ist, dass das US-Raumfahrtunternehmen SpaceX kürzlich die Nutzung des Satelliten-Internets Starlink aus genau diesen Gründen eingeschränkt hat. Das Netzwerk dürfe nicht für „offensive Zwecke“ genutzt werden, teilte das Unternehmen von Elon Musk mit.
Diese Frage stellt sich auch mit Blick auf das datengestützte Tracking. Kann es überhaupt eine „normativ neutrale“ Durchleitung von Daten, von der im Urteil des Bundesverwaltungsgerichts die Rede ist, geben? Oder ist das Bereitstellen technischer Infrastruktur nicht per se eine Unterstützungsleistung? Woher kommen die Daten, die die Palantir-Software verarbeitet (möglicherweise auch von deutschen Quellen)?
Es gibt in dem unregulierten Markt des Überwachungskapitalismus keine Herkunftsnachweise für Datenpakete, und vielleicht müsste angesichts der zunehmenden „weaponization“, also der Waffenfähigmachung und militärischen Anreicherung von Daten, auch über ein Lieferkettengesetz für Daten diskutiert werden.
Gewiss, aus einer moralischen Warte ist jedes Mittel recht, den verbrecherischen und mörderischen Angriffskrieg, den Putin seit über einem Jahr gegen die Ukraine führt, zu beenden. Aber aus einer konsequenzialistischen Ethik heraus muss auch die Frage gestellt werden, mit wessen Daten eine möglicherweise erratische KI gefüttert wird, die am Ende nicht alle militärischen Ziele trifft.
Leser*innenkommentare
Juan Vaho
"und hätte es die militärische Kraft, so würden russische Soldaten auch im Baltikum stehen."
Eigenartige Argumentation. Die baltischen Staaten sind im Gegensatz zur Ukraine in der NATO.
Encantado
@Juan Vaho "Eigenartige Argumentation. Die baltischen Staaten sind im Gegensatz zur Ukraine in der NATO."
Eigenartiges Gegenargument. Was genau wollen Sie damit ausdrücken?
Juan Vaho
@Encantado Der Kommentar landete irrtümlich hier, er war als Antwort auf OKTI gedacht.
Natürlich haben Sie recht, an dieser Stelle wirkt es, insbesondere als Gegenargument, ziemlich eigenartig.
Kappert Joachim
Solange sich die Kriegsbegeisterten gegenseitig abmetzeln, ist den Superreichen alles recht. Mögen sie nun Thiel oder Musk heißen.
Grisch
@Kappert Joachim welche "Kriegsbegeisterten"? Putin steht nicht im Schützengraben, seine Propagandisten auch nicht...
Und die Ukrainer versuchen verzweifelt unter Eisatz Ihres Lebens ihr Land und ihre Freiheit zu verteidigen, von "Begeisterung" dafür hab ich noch nicht gehört.
BluesBrothers
Auf die Anordnung Putins hin wird im russischen Staatsfersehen propagiert:
"[Ukrain] grannies would spend their burial savings to get raped by russian soldiers."
twitter.com/JuliaD...584054018145685504
Aber was stört dies schon Frau Schwarzer & friends.
Der Einsatz einer sofware ist nicht nur möglich sondern geboten.
Uwe Kulick
Das Fazit des Artkels, nur anders formuliert:
"Irren ist KIlich."
Verallgemeinert:
"Irren ist intelligenzlich."
Frauke Z
"aus einer moralischen Warte ist *jedes* Mittel recht"
Dieser Satz kann niemals stimmen, egal wie er weitergeht.
Der Zweck heiligt nicht jedes Mittel.
06438 (Profil gelöscht)
Gast
""Aber aus einer konsequenzialistischen Ethik heraus muss auch die Frage gestellt werden, mit wessen Daten eine möglicherweise erratische KI gefüttert wird, die am Ende nicht alle militärischen Ziele trifft.""
==
1.. Ohne die besondere Informations- und Zielerfassung der Ukrainer wäre die Rückeroberung in Cherson und Charkow nicht möglich gewesen. Das bedeutet: Datenerfassung und Zielauswahl der Militärs war wohl eher erfolgreich als erratisch.
2.. Das zivile Malaysia-Airlines-Flugzeug 17 (MH17) wurde 2014 mit russischen Boden-Luft-Raketen des Typs"Buk" abgeschossen., die von der 53. Flugabwehrbrigade (Teil der russischen Streitkräfte) aus dem russischen Kursk stammte.
Abgesehen davon, das die 4 Verantwortlichen von einem niederländischen Gericht in Abwesenheit zu lebenslangen Haftstrafen verurteilt wurden hat die Niederlande gemeinsam mit Australien bei der Internationalen Zivilluftfahrtorganisation (ICAO) 2022 ein Verfahren gegen Russland wegen des Abschusses von Flug MH17 eingeleitet. Die ICAO sollte feststellen, dass Russland verantwortlich und damit haftbar wäre, was den Weg für Schadensersatzforderungen eröffnen würde.
Klartext:
Aus der gerichtlichen Praxis folgt, das die Daten - und Zielerfassung keine Rolle während der Verhandlungen spielte.
Entscheidend für die Verurteilungen und für die laufende Anklage gegen Russland ist allein die Verantwortlichkeit a.. für das Verbringen der BUK in die Ukraine und b.. die Verantwortlichkeit für den Schuss aus der BUK der die zivile Maschine mit 298 Insassen zum Absturz brachte.
3..Russlands Kriegstaktik derzeit ist die Zerstörung ziviler Ziele wie Wohnhäuser, Krankenhäuser, Geburtskliniken, Schulen und Kitas. Das sind nach der Genfer Konvention Kriegsverbrechen.
Woher Russland die Infos für die Zielerkennung hat die zum Verbrechen führen ist momentan bedeutungslos.
Entscheidend für die Verantwortung und die folgende Strafbarkeit dieser russischen Verbrechen ist die vollbrachte Tat.
insLot
Ich würde behaupten, dass es so interpretiert wird, wie es der jeweiligen Seite gerade passt.
Und wahrscheinlich werden auch irgendwie die Datenschutzrechte der überwachten Truppen verletzt. Aber schlussendlich ist es ganz einfach, die haben da nichts verloren!
gyakusou
"Was, wenn die Künstliche Intelligenz sich irrt?"
Am Ende des Tages drücken Militärs auf den Knopf - die tragen die Verantwortung.
Und natürlich wird auch Palantirs Software ab und zu Fehler machen - das machen aber auch Menschen, die Daten zur Zielerfassung zusammentragen. Das macht für mich jetzt keinen Unterschied. Warum spielt es eine Rolle, ob es menschliche oder KI-Fehleinschätzungen waren?
Das Militär wird genau analysieren, wie die Trefferquote der Software ist - Munition ist knapp und man wird nicht wahllos die von Palantir angegebenen Ziele angreifen, wenn sich oft herausstellt, dass es keine lohnenswerten militärischen Ziele waren.
Encantado
@gyakusou "Warum spielt es eine Rolle, ob es menschliche oder KI-Fehleinschätzungen waren?"
Menschliche Irrtümer sind im Regelfall Einzelfälle.
Ein Computer unterliegt im Zweifelsfall unbeirrt massenhaft demselben Irrtum.
Machiavelli
@gyakusou Genauso kann eine Treibladung versagen und die Granate trifft ein Haus auf das man nicht gezielt hat. Alle Systeme versagen von Zeit zu Zeit und Unschuldige leiden.
Fabian Wetzel
@Machiavelli Ich folge dieser Logik mit einer wichtigen Einschränkung. Eine undurchsichtige Internet-Software kann kontinuierlich vom Hersteller oder Dritten beeinflusst werden, Saboteure können bei weitem nicht so direkt Einfluss nehmen, wenn sie z.B. Treibladungen für die Artillerie beschädigen. Es ist ein völlig neuer Angriffsvektor des 21. Jhs, von denen es noch mehr gibt, die aber offensichtlich viele Verantwortliche in Regierung und Militär noch nicht in ihrer Wichtigkeit korrekt einschätzen können.
Machiavelli
@Fabian Wetzel Das ist korrekt.
Vasco Schultz
Komische Frage. Ich verstehe das ethische Problem nicht, die russischen Mörder zu lokalisieren
Okti
Eigenartige Argumentation. Man liefert Massen an Waffen und ist dann keine Kriegspartei, aus unerklärlichen Gründen, aber wenn man Daten oder Satellitenbilder bereitstellt, dann ja.
Kleiner Spoiler: nur weil irgendein Stück Papier festlegt, dass man x Bedingungen erfüllen muss, um Kriegspartei zu sein, braucht das niemand zu interessieren. Der Westen ist kollektiv im Krieg gegen Russland. So sieht Russland das auch, und hätte es die militärische Kraft, so würden russische Soldaten auch im Baltikum stehen.
Juan Vaho
@Okti "und hätte es die militärische Kraft, so würden russische Soldaten auch im Baltikum stehen."
Eigenartige Argumentation. Die baltischen Staaten sind im Gegensatz zur Ukraine in der NATO.
Hanno Homie
Korrekterweise müsste es heißen: "Elon Musk hat behauptet die Nutzung des Satelliten-Internets Starlink aus diesen Gründen einzuschränken."
Über die genauen Gründe ("mehr Geld bezahlt bekommen?", "Nähe zu Putin?", "Aufmerksamkeit?") wissen wir eigentlich nichts, oder?
dites-mois
@Hanno Homie Exakt. Danke für die Richtigstellung.
Herbert Eisenbeiß
Also so wie ich das sehe muss sich die Ukraine verteidigen. Die Nutzung einer solchen Software ist im Grunde nicht anders als die Nutzung eines Panzers: durch beide können Menschen sterben, bei der Software indirekt durch Einsatz der Erkenntnisse - das nennt sich auch ganz einfach Aufklärung, beim Panzer eben direkt.
Wir liefern inzwischen ohne zu zucken Massen an Waffen und Munition in die Ukraine, aber um den Einsatz dieses bisschen Softwares macht man sich auf einmal große Gedanken? Echt jetzt? Der Zug ist lange abgefahren!
Nina Janovich
Danke für diese ausführliche Recherche! Den letzten Satz verstehe ich nicht oder (hoffentlich) falsch.
"Gewiss, aus einer moralischen Warte ist jedes Mittel recht, den verbrecherischen und mörderischen Angriffskrieg, den Putin seit über einem Jahr gegen die Ukraine führt, zu beenden."
Auch, bzw. gerade im Krieg ist moralisch KEINESFALLS JEDES Mittel recht. Ähnlich wie Menschenrechte lässt sich auch Moral nicht relativieren und dort wo es noch keine eindeutige rechtliche Regel gibt, ist moralisches Handeln essentiell und zwar auch zum Selbstschutz. Besonders deutlich macht das ein anderes Beispiel. Eine völkerrechtliche Grauzone war der ukrainische Beschuss der von Russland besetzten Atomanlagen ebenfalls. Die russische Strategie, sich hinter Meilern zu verstecken und von dort aus ukrainische Ziele anzugreifen war moralisch wie völkerrechtlich ein Bruch. Doch im Falle eines durch ukrainischen Feuers ausgelösten Supergaus wäre die moralische Überlegenheit der Ukraine und damit die Sympathie benachbarter europäischer Gesellschaften zu Nichte gewesen und vermutlich auch die Opferbereitschaft der eigenen Zivilgesellschaft rapide gesunken.
maxwaldo
Die Palantir Algorithmen sind die Panzer und die Daten, die verarbeitet werden, die Munition. In erster Näherung.
Hier "konsequentialistische Ethik" (wieder was gelernt heute) zu bemühen ist schon ganz schön steil. Wenn es hilft Putins Armeen nach Hause zu bomben, die in letzter Konsequenz ja letztlich mit der Ukraine erklärtermassen sich gar nicht zufrieden geben, was soll diese Diskussion?
Gibt's denn gar nichts anderes worüber man schreiben könnte?
Höhlen!=
Der Trennung/Gegenüberstellung von 20. Und 21. Jahrhundert kann ich nicht folgen. Z.B. das Abwerfen von Granaten über Schützengräben mittels Drohnen erscheint mir doch nach einer neuen Art der Kriegsführung.
Stefan Muck
"Gewiss, aus einer moralischen Warte ist jedes Mittel recht, den verbrecherischen und mörderischen Angriffskrieg, ...., zu beenden. ...."
Ersthaft? Ist das so? Erstens ist jeder Krieg verbrecherisch. Da bracht es nicht erst die "verbrecherisch", "mörderisch"und "Angriff-" Zusätze. Das sind politische Phrasen, um diesen Krieg besonders verabscheuungswürdig zu machen, damit alles gerechtfertigt ist. Eine üble Retorik. Verbrecherisch und mörderisch sind auch die Drohnenkriege diverser Staaten, bei denen regelmäßig Zivilisten ums Leben kommen. Verbrecherisch und mörderisch sind auch die Überfälle der USA auf Afganistan und den Irak gewesen, die in ersterem Fall dazu dienten Osama Bin Laden dingfest zu machen, im zweiten Fall auf einer Lüge basierend Saddam Husein zu stürzen. Die Liste wärre noch lang, aber wen juckt es, wenn nicht eigene wirtschaftliche Interessenbedroht sind. Nach den zivilen Toten fragt hier kein Mensch, aus vergleichsweise nichtigem Anlass. Diese Rechtfertigungsorgien mit denen die Grausamkeiten des Krieges gerechtfertigt werden für Werte und Menschenrechte, sind in sich schon so absurd, das man den Glauben an die Menschheit verlieren könnte.
Encantado
@Stefan Muck "Erstens ist jeder Krieg verbrecherisch."
Verteidigungskriege sind demnach genauso schlimm wie Angriffskriege?
Ist das Ihre Ansicht?
Vincent Braun
@Stefan Muck Um den Glauben an die Menschheit zu verlieren reicht ein Blick in ein Geschichtsbuch
Wurstfinger Joe
@Vincent Braun Der Blick ins Geschichtsbuch ist doch nur das Vergewiissern, daß sich nichts Grundlegendes im Verhalten der Menschheit geändert hat.
llorenzo
Die Überwachungs KIs lernen von den gespeisten Daten und von dem Einsatz selbst. Dh. der Wert der KIs wird mit jedem militärischen Konflikt größer. Man kann hier von Kriegsgewinnern oder allgemein Konfliktgewinnern sprechen. Das ist schon ein ähnliches Geschäftsmodell wie eine Waffenfirma das global eher unreguliert agieren kann.
Tomphson
...Ist das rechtlich und moralisch vertretbar?
Meinen Sie Herr Lobe das im Ernst?!
"...KI gefüttert wird, die am Ende nicht alle militärischen Ziele trifft."
Ah ja, stimmt, ist nicht ganz so fair von den Ukrainern, denn Putin hält sich ja brav und strikt an allen Genfer Konventionen, der ist ja so human ...
Wird jetzt in der Redaktion aus Langeweile das berühmte "Loch im Ganzen" gesucht?
zeroton
@Tomphson Sich die Methoden des Feindes zu eigen machen, ist gelegentlich verwerflich.
Herma Huhn
@Tomphson Beim letzten satz geht es wohl auch darum, dass eben niemand mehr überblickt, WELCHE Ziele von der KI angesteuert werden. Wirklich die militärisch wichtigsten? Oder nur die, die der Feind der Überwachung gelassen hat? Möglicherweise ein dritter Feind, der die Datenströme steuert und den Krieg lieber in die Länge ziehen als schnell beenden will.
Ja, wir kommen schnell in Gedankenbereiche, die eine rVerschwörungstheorie gleichen. Das macht die Sache noch gruseliger, denn so will ich eigentlich nicht denken.
Höhlen!=
@Tomphson "Ah ja, stimmt, ist nicht ganz so fair von den Ukrainern, denn Putin hält sich ja brav und strikt an allen Genfer Konventionen, der ist ja so human ..."
Also weil mein Gegner sich unmoralisch verhält, darf ich das dann auch? Das sehe ich anders. Und ich hoffe diese Einstellung macht keine Schule, sonst können wir uns gleich alle unterwerfen. Wozu lohnt es sich dann noch zu kämpfen?
eswareinmal
@Tomphson Volle Zustimmung.
Der Artikel ist lächerlich.