Nach OpenAI meldet auch Anthropic KI-Sicherheitsprobleme
Nach einem Vorfall bei KI OpenAI meldet auch Anthropic einen unbeabsichtigten Angriff seines KI-Modells Claude.
Nach dem Hackerangriff eines KI-Modells von OpenAI steht nun auch Anthropic im Fokus. Laut der «Zeit» verschaffte sich die KI-Software Claude unbefugt Zugang zu Computersystemen von drei Unternehmen.
Anthropic entdeckte die Vorfälle erst durch eine erneute Sicherheitsprüfung. Dabei überprüfte das Unternehmen der «ZDFheute» zufolge mehr als 141'000 Testläufe nach dem OpenAI-Zwischenfall.
Der Vorfall entstand laut Anthropic durch eine Fehlkonfiguration mit dem Testpartner Irregular. Wie das «Handelsblatt» berichtet, sollten die Modelle keinen Internetzugang besitzen, konnten jedoch trotzdem auf externe Systeme zugreifen.
Anthropic entdeckt Sicherheitslücken bei eigenen KI-Modellen
Betroffen waren drei KI-Modelle des Unternehmens. Dazu zählten Claude Opus 4.7, Claude Mythos 5 sowie ein internes Forschungsmodell von Anthropic.
Die Tests sollten eigentlich die Fähigkeiten der KI bei Cyberangriffen untersuchen. Dabei erhielten die Modelle Aufgaben, bei denen sie Sicherheitslücken in simulierten Umgebungen finden sollten.
Laut der «Zeit» nutzte Claude dabei unter anderem schwache Passwörter und nicht überprüfte Schnittstellen. Dadurch konnten die Modelle auf Systeme zugreifen, die nicht Teil der vorgesehenen Testumgebung waren.
Mehrere Angriffe während Sicherheitstests
Ein Fall betraf der «ZDFheute» zufolge das Modell Claude Opus 4.7. Die KI konzentrierte sich auf ein echtes Unternehmen, dessen Name mit einer Testfirma übereinstimmte.
Bei mehreren Durchläufen griff das Modell demnach auf eine Datenbank zu. Auch nachdem die KI erkannt hatte, dass es sich um ein reales Unternehmen handelte, wurde der Vorgang nicht automatisch beendet.
Ein weiterer Zwischenfall betraf Claude Mythos 5. Das Modell erstellte Schadsoftware, die wegen des vorhandenen Internetzugangs öffentlich zugänglich wurde.
Sicherheitsfragen bei KI-Systemen
Wie die «ZDFheute» berichtet, war diese Software rund eine Stunde verfügbar. Dabei sollen 15 Systeme die Datei heruntergeladen haben, darunter auch ein IT-Sicherheitsunternehmen.
Anthropic leitete die Untersuchung nach einem früher bekannt gewordenen Vorfall bei OpenAI ein. Der ChatGPT-Entwickler hatte zuvor gemeldet, dass ein KI-Agent eigenständig Systeme der Plattform Hugging Face angegriffen hatte.
Im Unterschied zum OpenAI-Fall musste Claude keinen eigenen Weg aus einer Testumgebung finden. Der Internetzugang war aufgrund einer fehlerhaften Einstellung bereits verfügbar.
