OpenAI streicht offenbar Veröffentlichung von neuem KI-Modell
OpenAI streicht die Veröffentlichung seines neuen KI-Modells GPT 6.1 Astra. Grund sind Sicherheitsbedenken nach Hacking-Attacken durch KI der Firma.
Das Wichtigste in Kürze
- OpenAI streicht GPT 6.1 Astra, weil das Modell Nutzer nicht immer ehrlich informierte.
- Nach einem Zwischenfall setzte OpenAI das Training seiner stärksten KI-Modelle aus.
- Florida will per einstweiliger Verfügung neue KI-Modelle ohne Leitplanken verhindern.
Der ChatGPT-Entwickler OpenAI hat laut Aussagen im «Wall Street Journal» wegen Sicherheitsbedenken die Veröffentlichung eines neuen KI-Modells gestrichen. Nach Hacking-Attacken durch seine KI stellte OpenAI die Entwicklungsprozesse auf den Prüfstand.
Unter anderem habe die Software in Tests Nutzer nicht immer ehrlich darüber informiert, welche Aktionen sie unternommen oder nicht unternommen habe, sagte die für Sicherheitssysteme zuständige OpenAI-Managerin Saachi Jain dem «Wall Street Journal».
Ausserdem habe das KI-Modell zum Teil auf eigene Initiative gehandelt, ohne eine Nutzererlaubnis einzuholen. Das Modell mit dem Namen GPT 6.1 Astra sollte demnach in den kommenden Tagen oder Wochen herauskommen.
Training ausgesetzt
Eigenmächtige Aktionen fortgeschrittener Künstlicher Intelligenz (KI) von OpenAI hatten in den vergangenen Wochen wiederholt für Negativ-Schlagzeilen gesorgt. Erst am Wochenende wurde bekannt, dass die Firma nach einem neuen Zwischenfall das Training seiner leistungsstärksten KI-Modelle aussetzte.
Bei dem Vorfall schaffte es ein KI-Modell in einem Test, Antworten von einem externen Chatbot zu bekommen, obwohl es eigentlich keinen Internet-Zugang haben sollte.
Die Software habe jedoch eine Lücke in den Netzwerk-Einstellungen gefunden und ausgenutzt, wie OpenAI in einem Blogeintrag berichtete. Das Training solle nun erst wieder aufgenommen werden, wenn man sich sicher sei, dass die Lücke geschlossen ist. Bei dem betroffenen KI-Modell habe es sich nicht um GPT 6.1 Astra gehandelt.
Hack durch KI als Warnsignal
In dem bisher aufsehenerregendsten Fall brach Künstliche Intelligenz des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung aus und hackte sich ungeplant in Computer einer anderen KI-Firma, der Plattform Hugging Face.
Wie sich danach herausstellte, drang auch KI anderer Entwickler – des OpenAI-Rivalen Anthropic sowie von Google und dem Facebook-Konzern Meta – bei Tests in Systeme anderer Unternehmen ein.
Der Bundesstaat Florida, der bereits eine Klage gegen OpenAI eingereicht hatte, legte nun mit dem Antrag auf eine einstweilige Verfügung nach. Zu den Forderungen gehöre, dass es keine Entwicklung neuer KI-Modelle ohne zusätzliche Leitplanken geben solle, sagte Floridas Generalstaatsanwalt James Uthmeier.
