Probleme bei Künstlicher Intelligenz: Neue Sicherheitsverstöße bei OpenAI

Nach Attacken durch seine KI dichtete der ChatGPT-Entwickler OpenAI seine Testumgebungen ab. Ein neues KI-Modell sorgt nun trotzdem für Probleme.

OpenAI – das Unternehmen hinter dem Chatbot ChatGPT – hat seine Software nicht im Griff

Foto: picture alliance/dpa | Hendrik Schmidt

dpa |/rtr/afp | Zwei Monate nach ‌einem ersten Hacker-Vorfall durch ‌seine eigene Künstliche Intelligenz (KI) hat der ChatGPT-Entwickler OpenAI neue Sicherheitsprobleme bekannt gegeben – und Konsequenzen angekündigt. KI-Agenten des Unternehmens haben demnach 53 Bilder aus Nutzerkonten irrtümlich ins Netz gestellt. Die Bilder seien ohne Wissen des Unternehmens auf externen Internetseiten veröffentlicht worden, teilte OpenAI am Freitag mit. Die Links seien nicht öffentlich aufgelistet gewesen.

Bei einem weiteren Vorfall schaffte es ein KI-Modell in einem Test, Antworten von einem externen Chatbot zu bekommen, obwohl es eigentlich keinen Internet-Zugang haben sollte. Die Software habe jedoch eine Lücke in den Netzwerk-Einstellungen gefunden und ausgenutzt.

Der Zwischenfall sei zwar weniger gravierend als einige frühere, betonte OpenAI. Allerdings sei er der erste, seit die Sicherheitsvorkehrungen nach der Hacking-Attacke von OpenAI-Software auf die KI-Firma Hugging Face verschärft worden waren. Man sehe das als wichtigen Hinweis darauf, wo weitere Nachbesserungen notwendig seien. Als Reaktion kündigte das Unternehmen an, das Training seiner leistungsstärksten Modelle auszusetzen. Wie lange diese Pause dauern soll erklärte es nicht.

In dem Test-Szenario bekam das KI-Modell den Auftrag, auf Grundlage von Hinweisen Informationen über eine Person zu finden, die einen Blogpost veröffentlicht habe. Dafür konnte es auf eine Web-Imitation in einer abgeschirmten Testumgebung zurückgreifen.

Nachdem die Suche dort ergebnislos geblieben war, versuchte die KI jedoch dem OpenAI-Bericht zufolge, Anfragen unter anderem bei Google zu starten. Das schlug wie geplant fehl. Aber dem KI-Modell fiel dabei auf, dass es über den sogenannten DNS-Resolver der Testumgebung Anfragen an einen Chatbot im offenen Internet stellen kann. DNS-Resolver übertragen Domain-Namen, die man als Nutzer in Browser eintippt, in aus Zahlen bestehende IP-Adressen, unter denen Websites zu finden sind. OpenAI stoppte den Test, nachdem die Kommunikation über die Lücke aufgefallen war.

Zudem wurde bekannt, dass automatisierte KI-Agenten von OpenAI auch auf mehreren Webseiten der US-Regierung aktiv waren. So habe die Software auf der Seite einer Statistikbehörde mithilfe von im Netz entdeckten Logindaten auf öffentlich zugängliche Informationen zugegriffen, teilte OpenAI nach einem Bericht der KI-Forschungsfirma Transluce mit.

Auf der Seite der Börsenaufsicht SEC seien ebenfalls öffentlich zugängliche Informationen kopiert worden. Beim US-Bildungsministerium versuchte die KI-Software laut Transluce vergeblich, sich in Daten der Bürgerrechtsabteilung zu hacken, wie die New York Times berichtete.

„Dutzende“ Betroffene

Derweil deutet sich an, dass noch viele weitere Enthüllungen um eigenständige Hacking-Aktivitäten der KI von OpenAI folgen könnten. Man habe „Dutzende“ Organisationen informiert, mit deren Webseiten Software von OpenAI auf ungeplante Weise „interagiert“ habe, teilte die KI-Firma mit. „Einige der betroffenen Webseiten werden von Regierungen, Universitäten, Behörden und anderen Institutionen betrieben“, hieß es. Man überlasse es ihnen, die Vorfälle öffentlich zu machen.

Zuletzt hatte die Regierung Australiens mit der Mitteilung für Schlagzeilen gesorgt, dass KI von OpenAI in eine Website des australischen Gesundheitssystems eingedrungen war.