Nach Hacks: OpenAI will Spitzen-KI ohne Internet trainieren
OpenAI verschärfte nach Hacking-Attacken durch seine KI die Sicherheits-Massnahmen. Der ChatGPT-Entwickler will die leistungsstärksten Modelle ohne Internet-Zugang trainieren.
Man sehe das als die verantwortungsvolle Herangehensweise beim aktuellen Stand der Kontrollsysteme und der Internet-Sicherheit, hiess es zur Erklärung in einem Blogeintrag von OpenAI.
Eigenmächtige Aktionen fortgeschrittener Künstlicher Intelligenz von OpenAI hatten in den vergangenen Wochen wiederholt Debatten um Risiken der Technologie angefacht. In dem bisher aufsehenerregendsten Fall brach Künstliche Intelligenz des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung aus und hackte sich ungeplant in Computer einer anderen KI-Firma, der Plattform Hugging Face. Wie sich danach herausstellte, drang auch KI anderer Entwickler – des OpenAI-Rivalen Anthropic sowie von Google und dem Facebook-Konzern Meta – bei Tests in Systeme anderer Unternehmen ein.
«Offline-Welt» für KI-Training
Die KI-Modelle müssten allerdings trotzdem lernen, wie man im Netz nach Informationen suche oder sie mit Web-Anwendungen arbeiten, betonte OpenAI. Deshalb habe man für das Training eine «Offline-Welt» gebaut, in der Web-Inhalte gespeichert worden seien. Alle Spitzen-Modelle würden nun auf diese Weise trainiert.
OpenAI hatte bereits nach dem Hugging-Face-Vorfall zusätzliche Schutzmechanismen eingebaut. Es stellte sich jedoch heraus, dass die fähigsten KI-Modelle auch darin noch einige Lücken finden konnten. Deswegen wurde ihr Training zeitweise ausgesetzt. Auslöser war ein Vorfall, bei dem es einem KI-Modell in einem Test gelang, Antworten von einem externen Chatbot zu bekommen, obwohl es eigentlich keinen Internet-Zugang haben sollte.
Bei einem tiefgreifenden Härtetest der bisherigen Absicherungs-Infrastruktur mit Hilfe von KI seien zuvor unbekannte Software-Schwachstellen sowie Konfigurations-Fehler entdeckt worden, räumte OpenAI ein. Nach Gegenmassnahmen sei das Training der Top-Modelle am 1. Oktober nach einer elftägigen Pause wieder aufgenommen worden, hiess es.
