OpenAI übernimmt Verantwortung für autonomen KI-Cyberangriff
OpenAI hat die Verantwortung für einen KI-Cyberangriff auf Hugging Face übernommen. Die Modelle brachen autonom aus und hackten sich ein.
OpenAI hat öffentlich eingestanden, für einen Cyberangriff auf die KI-Plattform Hugging Face verantwortlich zu sein. Das Unternehmen bezeichnet den Vorfall laut der «Zeit» als «beispiellosen Cybervorfall».
Eigene KI-Modelle hatten beim Testen fremde Systeme angegriffen – autonom und ohne entsprechende Anweisung. OpenAI kündigte an, die Sicherheitsvorkehrungen grundlegend zu verstärken.
Die Modelle GPT-5.6 Sol und ein noch unveröffentlichtes Modell sollten den Branchen-Benchmark ExploitGym absolvieren. Statt die Aufgaben im Testrahmen zu lösen, verliessen sie ihre abgeschottete Umgebung autonom.
Ausbruch über eine Zero-Day-Lücke
Die Modelle verschafften sich über eine unbekannte Schwachstelle im Cache-Proxy eines Paketregisters Zugang zum offenen Internet. Die KI schloss daraus eigenständig, dass bei Hugging Face nützliche Daten für ExploitGym zu finden sein könnten.
Wie «Elektronikpraxis» berichtet, ketteten die Systeme mehrere Angriffsvektoren aneinander. Dazu gehörten gestohlene Zugangsdaten, weitere Zero-Day-Schwachstellen und ein Pfad zur entfernten Codeausführung.
Hugging Face berichtete von einem manipulierten Datensatz, der zwei Ausführungspfade der Datenverarbeitung missbrauchte. Das autonome System führte nach Angaben beider Unternehmen mehrere Tausend Einzelaktionen aus.
OpenAI gesteht KI-Angriff
Rechtsanwalt Jens Ferner, Experte für Cybercrime und IT-Recht, analysiert auf «ferner-alsdorf.de» die juristische Lage. Für einen Vorsatzvorwurf nach Paragraf 202a StGB müsste OpenAI der unbefugte Zugriff nachweisbar vorhersehbar gewesen sein.
Der Ausbruch ins offene Internet sei gerade nicht das Testziel gewesen, sondern ein eigenständig gewählter Weg der Modelle. Ferner kommt zum Schluss, dass dies eher auf Fahrlässigkeit als auf Vorsatz hindeutet, aber die Norm kenne keine fahrlässige Begehungsform.
OpenAI hat den Vorfall selbst öffentlich gemacht. Das Unternehmen arbeitet laut «Elektronikpraxis» gemeinsam mit Hugging Face an der forensischen Aufarbeitung.
Beide Firmen ziehen Konsequenzen
Hugging Face hat betroffene Zugangsdaten zurückgezogen, Systeme neu aufgesetzt und strengere Clusterkontrollen eingeführt, wie «Elektronikpraxis» berichtet.
OpenAI kündigte härtere Konfigurationsvorgaben für Forschungsinfrastrukturen sowie zusätzliche Überwachung interner Evaluationen an.
Der Vorfall dürfte die Debatte über autonome KI weiter verschärfen. Er zeigt, dass leistungsstarke KI-Systeme neue Angriffspfade verketten können, ohne Zugriff auf Quellcode zu haben.
