OpenAI-Panne: KI-Modelle brechen aus – aber Gefahr lauert woanders
Nachdem sich bei OpenAI zwei KI-Modelle selbstständig gemacht haben, läuten bei einem KI-Experten die Alarmglocken. Auch wegen KI-Assistenten.
Das Wichtigste in Kürze
- Zwei KI-Testmodelle von OpenAI sind aus ihrer Testumgebung ausgebrochen.
- Das lässt bei einem Berner KI-Experten die Alarmglocken läuten.
- Doch: Es gibt eine noch grössere Gefahr.
Sogar OpenAI selbst spricht von einem «beispiellosen Cybervorfall»: Am Mittwoch haben sich zwei KI-Modelle von OpenAI bei einem Testlauf selbstständig gemacht. Die Modelle brachen aus der Testumgebung aus, verschafften sich Zugang zum Internet und hackten eine externe Webseite. Dort klauten sie die Lösung für ihre eigene Prüfung.
Nach diesem Vorfall wächst bei einigen die Angst davor, dass sich KI eines Tages selbstständig machen könnte.
Müssen wir uns jetzt Sorgen machen?
Mykola Makhortykh ist KI-Experte am Institut für Kommunikations- und Medienwissenschaft an der Universität Bern. Er sagt tatsächlich: «Der Vorfall lässt die Alarmglocken läuten.»
Er zeige sowohl das hohe Potenzial der Technologie, Cybersicherheitsrisiken zu verursachen, als auch unsere Grenzen bei ihrer Kontrolle auf. Aber er beschwichtigt auch: «Das bedeutet nicht zwangsläufig, dass sich KI automatisch gegen uns wenden wird», so Makhortykh.
Dennoch verdeutliche es die Gefahr, diese Technologie einzusetzen, ohne ihre Sicherheit angemessen zu gewährleisten.
Richtiger Umgang mit dem Vorfall ist entscheidend
Wichtig sei jetzt vor allem der richtige Umgang mit diesem Vorfall, so der Experte. Anstatt das geschehene unter den Teppich zu kehren, sollten solche Ereignisse berücksichtigt werden, «um zukünftige Risiken zu minimieren».
«Dies ist für mich ein weiterer Hinweis darauf, wie wichtig es ist, den Einsatz von KI branchenübergreifend zu regulieren.» Laut Makhortykh kann so ein verantwortungsvoller Umgang mit der Technologie sichergestellt werden.
KI-Assistenten bergen noch grössere Gefahren
Doch es gibt eine noch grössere Gefahr als Labortests, die schief gehen. Zur These, dass die grösste praktische Gefahr nicht von solchen autonomen KI-Modellen, sondern von KI-Assistenten ausgeht, sagt er: «Ich halte das aus rein praktischer Sicht für eine zutreffende Einschätzung.»
Für Otto Normalo ist also der KI-Assistent, der etwa Passwörter kennt und Zugriff auf E-Mails hat, gefährlicher.
Zwar verfügen KI-Assistenten gemäss dem Experten nicht unbedingt über die fortgeschrittenen Fähigkeiten, die das ausser Kontrolle geratene Modell hatte. «Allerdings greifen KI-Assistenten auf eine beträchtliche Menge oft sensibler Informationen zu und üben ein gewisses Mass an Kontrolle darüber aus.»
Gefahr von Fehlfunktionen oder Manipulationen
Wenn ein Assistent eine Fehlfunktion aufweist, gehackt oder manipuliert wird, können solche Informationen laut Makhortykh gelöscht oder unrechtmässig abgerufen werden.
Dies könne negative Auswirkungen auf die Arbeit und in manchen Fällen sogar auf das Leben der Betroffenen haben.
Die mit der zunehmenden Abhängigkeit von KI-Assistenten verbundenen Risiken müssen also schon jetzt berücksichtigt werden. Zudem sei es wichtig, zukünftige Risiken im Blick zu behalten: «Hier werden autonome KI-Angreifer wahrscheinlich eine sehr erhebliche Bedrohung darstellen.»
Kurzfristig schaffen KI-Assistenten Vorteile für Cyberkriminelle
Ob autonome KI-Assistenten die Cybersicherheit stärken oder Cyberkriminellen in die Hände spielen, hänge vom jeweiligen Einsatzszenario ab, betont der Experte. Kurzfristig sieht er Vorteile für Angreifer, da die Technologie neu sei und Verteidiger sie noch nicht flächendeckend einsetzen könnten.
Langfristig könne KI zwar Systeme widerstandsfähiger machen, doch dies hänge von ihrer Verfügbarkeit ab.
Zugleich warnt er vor neuen Risiken: «Es gibt noch andere Dimensionen der Cybersicherheit, zum Beispiel die Ausnutzung menschlicher Schwächen.» So könnten beispielsweise neue Formen von Phishing-Angriffen auftauchen.
