piwik no script img

Unabsichtlicher HackerangriffKalifornien verklagt KI-Firma OpenAI

Der US-Bundesstaat Kalifornien klagt. Eine KI des ChatGPT-Entwicklers war bei einem Test unautorisiert in eine Online-Plattform eingedrungen.

afp | Der US-Bundesstaat Kalifornien hat eine Klage gegen den KI-Entwickler OpenAI wegen eines Hackerangriffs seiner Modelle gegen die Plattform Hugging Face angestrengt. Der kalifornische Generalstaatsanwalt Rob Bonta reichte die Klage am Montag (Ortszeit) bei einem Gericht in San Francisco ein. Dem Unternehmen wird darin vorgeworfen, seine experimentelle Technologie wissentlich „ohne die zum angemessenen Schutz der Öffentlichkeit erforderlichen Sicherheitsvorkehrungen und Überwachungsmaßnahmen“ entwickelt und getestet zu haben.

Es geht um einen Vorfall aus dem vergangenen Juli. Experimentelle Versionen von OpenAI-Modellen waren damals aus ihrem Testumfeld ausgebrochen, hatten sich mit dem Internet verbunden und interne Systeme der Programmierplattform Hugging Face angegriffen.

„Der ‚Hugging Face‘-Angriff war das vorhersehbare Ergebnis einer Unternehmenskultur bei OpenAI, die Wachstum und schnelle Modellentwicklung über Sicherheit und Rechenschaftspflicht stellt – und dies war nur einer von 80 bekannten Vorfällen“, erklärte Bonta. „In Kalifornien schätzen wir Innovation, aber wir fordern Innovation, die im Einklang mit dem Gesetz steht – unabhängig vom Produkt oder der Firma.“

In den 31-seitigen Gerichtsdokumenten wird OpenAI vorgeworfen, die Gesetze des Bundesstaates zu verletzen – wegen „mangelhafter Sicherheitsvorkehrungen, Missachtung der öffentlichen Sicherheit und der bekannten Erprobung eines gefährlichen Produkts ohne Aufsicht sowie wegen irreführender Aussagen gegenüber Verbrauchern und der Öffentlichkeit“.

OpenAI: „Umfassende und transparente“ Maßnahmen

Ein OpenAI-Sprecher hingegen erklärte, das Unternehmen habe „umfassende und transparente“ Maßnahmen ergriffen, um das Fehlverhalten von Modellen zu verstehen und zu beheben. Die Klage scheine OpenAI gezielt wegen eines Problems herauszugreifen, das alle KI-Labore als solches erkannt hätten, fuhr er fort.

OpenAI muss sich derzeit auch einem Rechtsstreit in Kanada stellen. Dort reichte die kanadische Provinz British Columbia Klage gegen das Unternehmen ein, weil der ChatGPT-Anbieter vor einem tödlichen Schusswaffenvorfall an einer Schule nicht vor verdächtigen Aktivitäten im Account der späteren Täterin gewarnt hatte.

Mehr zum Thema

0 Kommentare