Juristin über KI und Migration: „Was an den Grenzen passiert, bleibt nicht dort“

7357844 6049209

Juristin über KI und Migration: „Was an den Grenzen passiert, bleibt nicht dort“

Weltweit überwachen Staaten ihre Grenzen mit neuen Technologien. Die Juristin Petra Molnar warnt vor den Folgen.

15.11.2024 18:59 Uhr

Diese US-Drohne ist an der Grenze zu Mexiko im Einsatz Foto: John Moore/getty images

taz: Frau Molnar, Sie warnen auch mit Blick auf die kommende Trump-Präsidentschaft vor „hochriskanten und unregulierten Grenztechnologien“, die Folgen für „jeden Aspekt der Migration“ haben. Womit ist zu rechnen?

Petra Molnar: Wir leben in einer Welt, die sehr diskriminierend und ausgrenzend ist, wenn es darum geht, wer mobil sein darf und wer nicht. Technologie verschärft diese Unterschiede. Es gibt eine schockierende Bereitschaft von Staaten, den Grenzschutz mit Technologie zu externalisieren und zu militarisieren, ohne dass man darüber spricht, was das vor Ort bewirkt und welche Auswirkungen es auf die Menschenrechte hat.

taz: Vor einigen Jahren warnten Menschenrechtler:innen vor einer Migrationsabwehr mit Satelliten, Biometriescannern, Radar, Drohnen. Sie haben ein Buch über die nächste Generation der Grenzschutz-Technologien geschrieben. Wie sieht die aus?

Molnar: Die Nutzung und Entwicklung neuer Grenzschutz-Technologien wird exponenziell gesteigert. Die Biometrie in Flüchtlingslagern etwa haben die UN in Kenia und Jordanien vorangetrieben. Es gibt immer mehr automatisierte Überwachung durch experimentelle Projekte wie Roboterhunde, die zuerst 2022 an der Grenze zwischen den USA und Mexiko getestet wurden. Die EU hat Roboter namens Roborder, KI-Lügendetektoren und Software zur automatisierten Stimmerkennung getestet.

Im Interview: Petra Molnar

Petra Molnar ist stellvertretende Direktorin des Refugee Law Lab an der York University. Sie forscht unter anderem zu Grenztechnologien, Gesundheit und Menschenrechten.

taz: Wie funktionieren solche Projekte?

Molnar: Eines dieser Projekte ist iBorderCtrl. Die KI in Form eines Avatars soll Gesichter und Emotionen erkennen und damit feststellen, ob jemand bei der Einreise lügt. Es wurden Fragen gestellt, um herauszufinden, ob jemand vorhat, Asyl zu beantragen, oder ob es Sicherheitsrisiken gibt. Auf Grundlage der Interaktion wird eine Risikobewertung formuliert – etwa, weil die Person keinen Augenkontakt hergestellt hat, wie es bei Ehrlichkeit zu erwarten wäre. Dann wird eine Warnung im Profil der Person hinterlegt.

taz: Wie zuverlässig ist so ein System?

Molnar: Ich habe in Kanada Flüchtlinge bei Anhörungen vor Gericht als Anwältin vertreten und gesehen, wie Richter etwa reagierten, wenn jemand keinen Augenkontakt herstellte. Die Richter, also menschliche Entscheidungsträger, konnten sich teils nicht vorstellen, dass das vielleicht an der Religion, eigenen Erfahrungen, den Nerven, an Traumata liegt. Oder daran, dass wir Geschichten ohnehin nicht linear erzählen, geschweige denn komplexe, schwierige Dinge, die uns widerfahren sind. Die Richter hatten damit Schwierigkeiten und zogen teils äußerst problematische Schlussfolgerungen. Wie soll eine KI mit solchen Komplexitäten besser umgehen können?

taz: Die EU hat auf Kritik entgegnet, das System sei nur ein Test gewesen.

Molnar: Beteiligte Wissenschaftler sagten nach öffentlicher Kritik, sie hätten nicht erkannt, dass das Projekt solche Auswirkungen auf die Menschenrechte haben würde. Aber sprechen Sie mit einem Asylanwalt oder einer Person auf der Flucht – die werden Bedenken daran äußern, was ein solches System bewirkt. Deshalb ist es wichtig, wer bei der Entwicklung solcher Projekte mit im Raum sitzt und wer entscheidet.

wochentaz

Dieser Text stammt aus der wochentaz. Unserer Wochenzeitung von links! In der wochentaz geht es jede Woche um die Welt, wie sie ist – und wie sie sein könnte. Eine linke Wochenzeitung mit Stimme, Haltung und dem besonderen taz-Blick auf die Welt. Jeden Samstag neu am Kiosk und natürlich im Abo.

taz: Welche Technologien gibt es noch?

Molnar: Seit einiger Zeit ist eine Schallkanone auf dem Markt, die etwa an der Grenze zwischen Griechenland und der Türkei eingesetzt wurde. Das deutsche Bundesamt für Migration und Flüchtlinge nutzt seit 2017 einen „Dialektidentifizierungsassistenten“ bei Asylanträgen – eine Software, die prüft, ob jemand beispielsweise aus einer bestimmten Provinz eines Landes stammt und dazu womöglich falsche Angaben macht. Nach öffentlichen Diskussionen hat das Bundesamt den Einsatz allerdings beendet.

taz: Wer ist die treibende Kraft hinter dieser Entwicklung? Die Innenministerien oder die Industrie?

Molnar: Beide. Innenministerien und Regierungen im Allgemeinen können solche Technologie nicht selbst entwickeln. Sie treten an private Partner heran. Umgekehrt macht auch der Privatsektor seinen Einfluss geltend, um zu bestimmen, was entwickelt wird. Man sieht das auf Foren wie dem World Border Security Congress, ich habe das mehrfach selbst so erlebt: Da steht dann der Migrationsminister und unterhält sich mit einem Drohnenlieferanten. Der Privatsektor sagt: „Ihr habt das Migrationsproblem – wir haben die Lösung“, und das ist eine Drohne oder ein Roboterhund oder Gesichtserkennung.

Grenze zwischen den USA und Mexiko: Ein Grenzpatrouillenfahrzeug fährt entlang der Grenzmauer auf der US-Seite Foto: Ho Wai Lee/Zuma/imago

taz: Selbst die Erfinder warnen vor den Risiken einer KI, die keinen gesetzlichen Schranken unterworfen ist. Könnte das den möglichen Einsatz an Grenzen bremsen?

Molnar: Menschen sind heute zu Recht besorgt darüber, was KI tut. Aber die Diskussion über die Regulierung kommt nicht voran. Im August trat das EU-Gesetz zur künstlichen Intelligenz in Kraft. Ich war ab 2021 Teil einer Gruppe von Fachleuten namens „Schützen statt überwachen“. Wir forderten unter anderem ein Verbot von KI-Modellen, die Migrationsbewegungen vorhersagen sollen und für Pushbacks eingesetzt werden könnten. Leider ohne Erfolg.

taz: W as hätten solche Bestimmungen in dem Gesetz gebracht?

Molnar: Hätte das EU-KI-Gesetz Menschenrechte stärker in den Blick genommen, wären Länder wie Kanada, die USA, Großbritannien und Australien dem wohl gefolgt. Aber viele Regeln wurden im Gesetzgebungsprozess verwässert, nicht nur in Bezug auf Grenztechnologie. Es bietet keinen Anreiz für andere Länder, KI zu regulieren. 2023 haben wir einen Bericht für das Büro des UN-Menschenrechtskommissars verfasst und eine menschenrechtskonforme digitale Grenzverwaltung gefordert. Dazu gehörten auch Moratorien und Verbote bestimmter Grenztechnologie. Nichts davon wurde aufgegriffen. Denn wenn Migration als Problem und die Technologie als Lösung gesehen wird – warum sollte man sie dann regulieren?

taz: Dient der Einsatz an den Grenzen dazu, Technologien für eine weitergehende Nutzung im Innern zu testen?

Molnar: Ich beschäftige mich seit 2008 mit Migrationsfragen und kann sagen: Was an den Grenzen und in Flüchtlingslagern passiert, bleibt nicht dort. Gesichtserkennung ist heute weitgehend als biometrische Massenüberwachung normalisiert, sogar in Sportstadien. Robohunde wurden 2022 an der Grenze getestet, 2023 setzte die Polizei sie auf den Straßen von New York ein. Einer war sogar weiß mit schwarzen Flecken bemalt, wie ein Dalmatiner. Was in einem Flüchtlingslager passiert, ist dem Durchschnittsbürger vielleicht egal, weil es ihn vermeintlich nicht betrifft. Aber wenn dieselbe Technologie dann Teil unseres öffentlichen Lebens wird, dann fangen die Leute vielleicht an, sich dafür zu interessieren.

taz: Werden Asyl- und Visumantragsgespräche zukünftig von Bots geführt?

Molnar: Sehr wahrscheinlich ist, dass die teilweise oder vollständige Automatisierung zur Normalität werden könnte. Mit Verweis auf die vermeintliche Effizienz werden diese Dinge durchgesetzt. So sollen Fälle schneller bearbeitet oder abgelehnt werden.

taz: Schneller wäre doch besser, oder nicht?

Molnar: Manchmal dauert es Jahre bis zu einer Entscheidung. Das System kann also nicht bleiben, wie es ist. Aber die Antwort kann keine technische Lösung sein, die Probleme noch verschlimmert und neue schafft. Wenn man sich tatsächlich um Effizienz sorgt, sollte man etwa vermeiden, wegen diskriminierender Entscheidungen verklagt zu werden. Das ist nämlich eine Folge von KI und wird das auch bleiben. Es gibt bereits entsprechende Entscheidungen in Kanada und UK, immer mehr Menschen sind betroffen, Anwält:innen werden darauf aufmerksam und klagen. Solche Systeme funktionieren nicht richtig und sind eine Verschwendung von Ressourcen. Diese Ressourcen könnten auf ganz andere Weise für eine Reform des Systems genutzt werden. Aber ich glaube nicht, dass das die Priorität ist. Die Priorität ist, dass wir zu viele Menschen haben, die herkommen und man will technische Lösungen schaffen, um sie – vielleicht – schneller loszuwerden.

taz: Fühlen sich die Staaten denn langfristig überhaupt verpflichtet, Gerichtsentscheidungen zu respektieren?

Molnar: Die Achtung des Rechts geht den Bach runter, das ist ein breiterer Trend. Wir können alle Gerichtsentscheidungen der Welt haben, aber was bringt es, wenn sie nicht respektiert werden? Ich war an der polnisch-weißrussischen Grenze, als es diese Sperrzone gab, es war ein klares Beispiel für die Formbarkeit des Rechts in Krisensituationen. Sofort wurde die etablierte Norm außer Kraft gesetzt, dass Medien Zugang haben. Als jemand, der versucht, das Zusammenspiel zwischen Technologie, Macht und Migration zu verstehen, denke ich, dass wir aus dem Blick verloren haben, dass es echte Menschen sind, die im Mittelpunkt stehen.

taz: Die EU verlagert ihren Grenzschutz an Partnerländer in der Sahara, die USA nach Lateinamerika. Gibt es Unterschiede im Vorgehen?

Molnar: Die USA bauen auf die Externalisierung ihres Grenzschutzes mithilfe von Mexiko als direktem Nachbarn und anderen Ländern in Lateinamerika. Das ähnelt der EU, die ihren Grenzschutz bis weit auf den afrikanischen Kontinent ausgebaut hat und die Routen überwacht. Dabei wird nicht nur Geld gezahlt. Es werden auch biometrische Datenbanken in Mexiko erweitert, Grenzschutzkräfte ausgebildet oder Ausrüstung an mittel- und lateinamerikanische Länder gegeben. Die Ausrüstung kommt direkt aus den USA, sehr ähnlich wie in der EU. Beide Regionen lernen da voneinander und kopieren sich gegenseitig.

taz: In Afrika wenden sich mittlerweile viele Staaten vom Westen ab. Das unterminiert die EU-Grenzschutzkooperationen. Haben die USA ähnliche Probleme?

Molnar: Die Menschen gehen nach Nordamerika, das Geld fließt in die andere Richtung, um sie davon abzuhalten. Das ist ein lukratives Geschäft für viele der Partnerländer. Deshalb gibt es vielleicht keinen Akteur, der die USA als Machtfaktor im Migrationsmanagement auf dem amerikanischen Kontinent entthronen könnte. Russland ist, soweit bekannt, in dieser Region kaum aktiv. Das soll nicht heißen, dass das nicht passieren könnte. Aber die Vormachtstellung der USA ist immer noch sehr stark – durch die Wiederwahl Trumps jetzt umso mehr.

taz: Heute kommen immer mehr Menschen aus Afrika über Lateinamerika in die USA, statt über die Sahara in Richtung EU. Woran liegt das?

Molnar: Ein Faktor ist wohl, dass die europäischen Migrationsrouten so tödlich geworden sind. Allerdings ist Sicherheit dabei womöglich nicht einmal das wichtigste Thema. Diese neuen Routen, die wir hier sehen, zeigen einmal mehr, dass Menschen in verzweifelten Situationen bereit sind, alles zu versuchen.

taz lesen kann jede:r

Als Genossenschaft gehören wir unseren Leser:innen. Und unser Journalismus ist nicht nur 100 % konzernfrei, sondern auch kostenfrei zugänglich. Texte, die es nicht allen recht machen und Stimmen, die man woanders nicht hört – immer aus Überzeugung und hier auf taz.de ohne Paywall. Unsere Leser:innen müssen nichts bezahlen, wissen aber, dass guter, kritischer Journalismus nicht aus dem Nichts entsteht. Dafür sind wir sehr dankbar. Damit wir auch morgen noch unseren Journalismus machen können, brauchen wir mehr Unterstützung. Unser nächstes Ziel: 40.000 – und mit Ihrer Beteiligung können wir es schaffen. Setzen Sie ein Zeichen für die taz und für die Zukunft unseres Journalismus. Mit nur 5,- Euro sind Sie dabei! Jetzt unterstützen

Themen #Grenzpolitik #Geflüchtete #künstliche Intelligenz #Migration #wochentaz

Feedback Kommentieren Fehlerhinweis