KI bei Phishing erwischt : Unser Verständnis von Schaden
Eine KI gibt sich als Person aus, um schädlichen Code in ein Programm zu schummeln. Zwar erfolglos, doch Konsequenzen sollte das dennoch haben.
Foto: imago
W ie schön wäre es, wenn die Entwickler*innen von KI-Modellen sich an etwas halten würden, was sich ein Science-Fiction-Autor bereits 1942 ausgedacht hat: „Ein Roboter darf kein menschliches Wesen (wissentlich) verletzen oder durch Untätigkeit (wissentlich) zulassen, dass einem menschlichen Wesen Schaden zugefügt wird.“ So lautet das erste Robotergesetz von Isaac Asimov.
Ein echter Schaden ist laut dem britischen AI Security Institute (AISI) nicht entstanden bei den neuesten skandalösen Streifzügen einer KI: Forscher*innen des AISI haben ein KI-Modell dabei erwischt, wie es versucht hat, einen Menschen zu übertölpeln, um einen schädlichen Code in ein Programm einzufügen – ohne dass es das durfte.
Bei dem Test ging es dem Institut darum, verschiedene KI-Modelle von Anthropic (die mit Claude) und OpenAI (die mit ChatGPT) daraufhin zu überprüfen, wie stark ihre Cyber-Angriff-Fähigkeiten ausgebildet sind. Dafür durften sie auch ins Internet. Doch während Modelle das Internet früher genutzt haben, um nach Informationen zu suchen, sind sie, das haben mehrere Vorfälle der vergangenen Woche gezeigt, nun manipulativ.
Die taz ist eine unabhängige, linke und meinungsstarke Tageszeitung. In unseren Kommentaren, Essays und Debattentexten streiten wir seit der Gründung der taz im Jahr 1979. Oft können und wollen wir uns nicht auf eine Meinung einigen. Deshalb finden sich hier teils komplett gegenläufige Positionen – allesamt Teil des sehr breiten linken Meinungsspektrums.
Mehrere Modelle haben bei dem Test Grenzen überschritten, insbesondere „Mythos 5“ von Anthropic. Es hat sich selbst einen Account auf der Software-Plattform GitHub angelegt und dort versucht, einen Code in ein Programm einzuschleusen, der absichtlich eine Schwachstelle trug.
Wo beginnt ein Schaden am Menschen?
Um den zuständigen Menschen für das Programm zu überlisten, hat sich das Modell mehrere Fake-Identitäten aufgebaut und Phishing-Mails geschickt, also solche Mails, mit denen sonst Kriminelle versuchen, an unsere Bank- oder Login-Daten zu gelangen. Diesem Menschen ist das jedoch aufgefallen, ebenso nachträglich auch den Forschenden, die den Test gestoppt haben. Kein Schaden also? Die Person, die sich mit der boshaft lügenden KI auseinandersetzen musste, Zeit und Energie investiert hat, um nicht getäuscht zu werden, sieht das vielleicht anders.
Das ist nur der jüngste Fall von grenzüberschreitender, schädlicher KI. Ende Juli hatten sowohl OpenAI als auch Anthropic Fälle öffentlich gemacht, in denen ihre KI-Modelle in die Systeme von Unternehmen eingedrungen sind, ohne das zu dürfen. Und auch wenn etwa Hugging Face, eines der betroffenen Unternehmen, in ihrem Statement eher begeistert als erzürnt klang: Schädlich ist dieses KI-Vorgehen dennoch. Denn vielen Menschen macht es Angst.
Vielleicht ist dieser Schaden für die KI nicht absehbar gewesen. Was könnte eine Maschine schon von Angst wissen? Hier offenbart sich eine der Schwächen von Asimovs Robotergesetzen. Doch diese müssen dann eben Menschen ausgleichen. Dafür müssen wir als Gesellschaft definiert werden: Was ist ein Schaden am Menschen?
Der Schaden, den eine KI anrichtet, wenn sie einen Menschen bei seinen Suizidplänen unterstützt, ist klar. Auch der Schaden durch KI-Systeme in Kriegsdrohnen. Der Schaden durch KIs, die manche Menschen arbeitslos machen. Aber was ist mit den subtileren Schäden?
Es braucht Regulierung
Wenn ein Chatbot sich selbst in der Unterhaltung „ich“ nennt, obwohl die Maschine kein Ich hat, und damit emotionalisiert und Wahrnehmung und Persönlichkeitsbilder verschiebt. Wenn eine KI halluziniert und auf eine Frage, die sie nicht beantworten kann, einfach lügt und damit Wissen zersetzt. Wenn eine KI hilft, Bilder zu bearbeiten, sodass diese am Ende menschenverachtende Inhalte zeigen und User*innen sie nutzen, um Desinformation und Hass zu verbreiten.
Die KI kann das nicht erahnen. Sie ist in vielen dieser Fälle nur Werkzeug, nicht Akteurin und weiß nicht, dass sie schadet. Doch die Entwickler*innen können es wissen. Deswegen müssen sie sorgfältiger überlegen, was sie da entwerfen. Die KI-Modelle müssen strenger und besser überprüft werden, nicht von den Unternehmen selbst oder in ihrem Auftrag, weil sie sich selbst dafür entschieden haben. Sondern von unabhängigen Anstalten, weil es gesetzlich vorgeschrieben ist. Und manche Entwicklungen sollten gar nicht erst veröffentlicht werden. Oder man muss sie zurückziehen.
Google ist diesen Weg jetzt gegangen. Vergangene Woche hatte der Produktmanager von Google Earth ein neues Feature angekündigt, bei dem User*innen mithilfe einer KI Satellitenbilder bearbeiten können. Damit Schüler*innen etwa „hyperrealistische Bilder vom Pompeji um 87 vor Christus“ sehen können.
Einen Tag später nahm Google das Feature zurück. Weil Menschen diese neuen Möglichkeiten ebenso dafür nutzen konnten, um anderen Menschen zu schaden. Indem sie etwa Mahnmäler erfinden oder Kriegsschäden aus Satellitenaufnahmen entfernen – und diese dann teilen, um die Wahrheit zu verletzen. Dieses Programm hätte unwisssentlich Schäden angerichtet. Gut, dass manche Menschen um diese Schäden wussten und Konsequenzen gezogen haben.
Der drohende Erfolg der AfD bei den kommenden Landtagswahlen zeigt, wie stark rechtsextreme Kräfte inzwischen geworden sind. Gerade jetzt braucht es Zusammenhalt und Solidarität. Auch und vor allem mit den Menschen, die sich vor Ort für eine starke Zivilgesellschaft einsetzen. Die taz kooperiert deshalb mit "Alles beginnt im Zentrum". Die Kampagne unterstützt bundesweit linke, selbstverwaltete Orte und baut einen solidarischen Fonds für deren Schutz und Erhalt auf. Eine offene Gesellschaft braucht guten, frei zugänglichen Journalismus – und zivilgesellschaftliches Engagement. Finden Sie auch? Dann machen Sie mit und unterstützen Sie unsere Aktion. Jetzt unterstützen
meistkommentiert