Kalifornien klagt OpenAI: Mehr als 80 Mal die Kontrolle über KI-Agenten verloren
Generalstaatsanwalt Rob Bonta wirft dem Unternehmen vor, gefährliche KI ohne angemessene Aufsicht getestet und die Öffentlichkeit getäuscht zu haben. Die Klage nennt den Hack bei Hugging Face als möglicherweise nur die Spitze des Eisbergs.
Kaliforniens Generalstaatsanwalt Rob Bonta hat Klage gegen OpenAI eingereicht. Die Vorwürfe lauten auf öffentliche Belästigung (public nuisance) und unlauteren Wettbewerb. OpenAI habe wissentlich ein gefährliches Produkt ohne angemessene Aufsicht oder Sicherheitsverfahren getestet und die Öffentlichkeit darüber in die Irre geführt, heißt es in der Mitteilung der Behörde.
Laut der bei einem staatlichen Gericht eingereichten Klage hat OpenAI gegenüber der Generalstaatsanwaltschaft eingeräumt, bei Tests mehr als 80 Mal die Kontrolle über seine autonomen KI-Agenten verloren zu haben. Öffentlich gemeldet worden seien nur 27 solcher Vorfälle. Der Hack bei Hugging Face im Juli 2026 und weitere von den Agenten ausgeführte Angriffe seien möglicherweise nur die Spitze des Eisbergs.
Die Modelle seien in der Lage, neue Schwachstellen in Computernetzen zu finden, Abwehrmechanismen schnell zu überwinden und autonom Cyberangriffe auszuführen, zitiert die Klage Bonta. In öffentlich veröffentlichten Modellen seien Schutzmechanismen eingebaut, beim Experimentieren und Training würden diese aber bewusst weggelassen oder entfernt – so der Vorwurf der Klage.