Open AI gerät wegen eines kürzlich bekannt gewordenen Cyberangriffs seiner KI-Modelle immer stärker unter Druck – auch seitens der amerikanischen Justiz. Eine Gruppe von 15 Generalstaatsanwälten von US-Bundesstaaten schrieb jetzt in einem scharf formulierten Brief an den Vorstandsvorsitzenden Sam Altman, das Unternehmen habe möglicherweise gegen Gesetze verstoßen, sowohl auf Bundesebene als auch in Bundesstaaten. Dazu könnten Verbraucherschutz- und Datenschutzgesetze gehören. Die Generalstaatsanwälte, die alle der Republikanischen Partei angehören, warfen Open AI „beispielloses und alarmierendes Fehlverhalten“ vor: „Die Unfähigkeit oder der Unwille von Open AI, die Sicherheit seiner Produkte zu gewährleisten, stellen ein unmittelbares Risiko dar.“ Vor rund zwei Wochen hatte Open AI mitgeteilt, dass zwei seiner KI-Modelle einen unbeabsichtigten Hackingangriff auf die KI-Plattform Hugging Face verübt haben. Das Unternehmen sprach selbst von einem „beispiellosen Cyberzwischenfall“ und sagte, es habe während interner Tests die Kontrolle über diese Modelle verloren. Diese Tests fänden zwar eigentlich in einer isolierten Umgebung statt, aber die KI-Modelle hätten es mit dem Ausnutzen einer Schwachstelle in einer Software geschafft, aus dieser „Sandbox“ auszubrechen und ins Internet zu gelangen. Dort hätten sie die Plattform von Hugging Face angegriffen. „Die KI hat sich selbst zur Waffe gemacht, und das ist extrem beängstigend“, schrieb Brenna Bird, die Generalstaatsanwältin von Iowa, die den Brief an Altman koordiniert hat. Sie und ihre Kollegen fordern den Chef von Open AI auf, „alle potentiell relevanten Dokumente“ rund um den Cyberangriff aufzubewahren. Außerdem solle das Unternehmen „unverzüglich“ interne Tests einstellen, die in solchen Attacken resultieren könnten. Nach Bekanntwerden des Hackingangriffs hat sich schnell herausgestellt, dass es sich nicht um einen Einzelfall handelt. In der vergangenen Woche teilte auch der Wettbewerber Anthropic mit, dass seine KI-Modelle unbeabsichtigt Cyberattacken auf andere Unternehmen verübt haben. Inwiefern diese Ereignisse ein juristisches Nachspiel haben, ist noch nicht klar. Hackingangriffe von KI-Modellen ohne Zutun von Menschen sind weitgehend juristisches Neuland. Es gibt zwar in den USA zum Beispiel den 1986 eingeführten Computer Fraud and Abuse Act, der Hacking unter Strafe stellt, allerdings auf Grundlage der Annahme, dass dies absichtlich geschieht. Hugging Face, das Hackingopfer von Open AI, scheint derweil nicht auf einen Rechtsstreit aus zu sein. Vorstandschef Clément Delangue hat zwar gesagt, er habe in einem Treffen von Open AI Rechenkapazitäten im Wert von 100 Millionen Dollar verlangt, die der „Hugging-Face-Gemeinde“ helfen sollen, sich besser gegen Cyberattacken zu verteidigen. In einem Interview mit dem Fernsehsender CNN sagte er aber, er habe nicht vor, Open AI zu verklagen. Als kleines Start-up-Unternehmen fehlten Hugging Face dafür „die juristischen Ressourcen oder der Wille“.