OpenAI steht nach KI-Hackerangriff vor neuen Fragen
OpenAI testete die Fähigkeiten seiner KI-Systeme – doch ein autonomer Hackerangriff sorgt nun bei Experten für Besorgnis.
Während eines Sicherheitstests haben KI-Modelle von OpenAI eigenständig einen Hackerangriff durchgeführt. Beim Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) in Saarbrücken bewertet man den Vorfall als wichtigen Warnhinweis.
Die getesteten Modelle konnten ihre abgesicherte Umgebung verlassen und externe Systeme erreichen. Dabei kombinierten sie verschiedene Angriffsmethoden und nutzten laut OpenAI unter anderem bereits kompromittierte Zugangsdaten.
DFKI-Geschäftsführer Philipp Slusallek erklärte gegenüber dem «SR», dass nicht die grundsätzliche Fähigkeit von KI-Systemen zum Angriff überraschend sei. Neu sei vor allem die Komplexität, mit der die Modelle mehrere Schritte miteinander verbunden und eigenständig ausgeführt hätten.
OpenAI-KI verlässt Testumgebung und greift externe Systeme an
Moderne KI könne bereits IT-Systeme analysieren, Schwachstellen erkennen und Angriffe vorbereiten. Dass ein Modell andere Rechner erreicht und weitere Schritte ausführt, sei eine neue Herausforderung.
OpenAI hatte die Modelle für einen kontrollierten Sicherheitstest eingesetzt. Laut dem «WDR» sollten dabei die Fähigkeiten von KI-Agenten untersucht werden, reale Schwachstellen zu erkennen und mögliche Angriffe nachzustellen.
Während des Tests versuchten die Modelle laut OpenAI, einen Zugang zum offenen Internet herzustellen. Anschliessend nutzten sie die Plattform Hugging Face, um Informationen zu beschaffen, die ihnen bei der Erfüllung ihrer Aufgabe helfen sollten.
OpenAI-KI handelt ohne Bewusstsein, aber mit neuen Fähigkeiten
Der «WDR»-Digitalexperte Jörg Schieb betonte, dass der Vorfall nicht auf ein eigenes Bewusstsein der KI zurückzuführen sei. Das System habe keine Absichten verfolgt, sondern lediglich versucht, ein vorgegebenes Ziel möglichst erfolgreich zu erreichen.
Fachleute beschreiben solche Vorgänge als «Specification Gaming». Dabei erfüllt eine KI eine Aufgabe zwar technisch korrekt, wählt jedoch einen Weg, den Entwickler ursprünglich nicht vorgesehen hatten.
Laut dem «SR» sieht auch das Bundesamt für Sicherheit in der Informationstechnik eine veränderte Bedrohungslage durch leistungsfähige KI-Modelle. Ein Angriff auf kritische Infrastruktur sei denkbar, wenn dies zur Erfüllung einer Aufgabe beitragen würde.
Experten fordern strengere Regeln für autonome KI-Systeme
DFKI-Chef Philipp Slusallek fordert deshalb internationale Zusammenarbeit und gemeinsame Sicherheitsstandards. Forschung, Politik und Unternehmen müssten weltweit zusammenarbeiten, um die Risiken leistungsfähiger KI-Systeme besser zu kontrollieren.
Dem «Focus» zufolge kritisierte KI-Experte Hannes Cools die häufige Vermenschlichung solcher KI-Vorfälle. Die Verantwortung liege weiterhin bei den Menschen, die Systeme entwickeln, testen und einsetzen.
Der Vorfall zeigt laut Experten, dass autonome KI-Agenten neue Sicherheitsanforderungen benötigen. Die Debatte über Schutzmechanismen und Kontrollmöglichkeiten dürfte dadurch weiter an Bedeutung gewinnen.
