KI als Hacker alarmiert Tech-Branche weltweit
Erstmals agierte eine KI eigenständig als Hacker. Die Reaktion der Tech-Branche liess nicht lange auf sich warten.
Nach dem ersten eigenständigen Angriff durch eine KI, die als Hacker agierte, gründeten mehr als 30 US-Technologieunternehmen eine Sicherheitsallianz. Dem Bündnis Open Secure AI Alliance gehören Konzerne wie IBM, Nvidia, Microsoft und Palantir an, berichten die «Salzburger Nachrichten».
Die Gründungsmitglieder wollen laut «ORF» zur Problemlösung ebenfalls auf KI setzen und warnen die Politik vor einer stärkeren Regulierung.
Konkret planen sie, Open-Source-Modelle Künstlicher Intelligenz zur Cyberabwehr bereitzustellen, die Programmierer dann weiterentwickeln sollen.
KI als Hacker tagelang unbemerkt
Anfang Juli versuchte ein OpenAI-Modell, seine Testumgebung zu verlassen, wie «ZDFheute» berichtet. Der Angriff auf Hugging Face begann laut dessen Mitbegründer Thomas Wolf zwei Tage später und dauerte bis zum 13. Juli.
Erst nach dem 16. Juli stellte OpenAI fest, dass der eigene Agent für den Angriff verantwortlich war. Mitarbeiter fanden in internen Protokollen Hinweise darauf, dass der Agent seine Testbeschränkungen aktiv überwunden hatte.
OpenAI bezeichnete den Angriff als «beispiellos» und als wichtigen Moment für die KI-Sicherheit, wie «ZDFheute» berichtet. Das Unternehmen prüft den Vorfall mit externen Beratern und kündigte einen technischen Bericht an.
Experten sehen neue Bedrohungsstufe
Cybersicherheitsexpertin Marley Smith fragte, ob OpenAI den Agenten unbeaufsichtigt gelassen und nicht bemerkt habe, was er tat. Oder ob das Unternehmen es wusste, aber nicht wusste, wie es ihn eindämmen konnte: Beides sei «gleichermassen gefährlich und alarmierend».
Jeffrey Ladish von der Forschungsorganisation Palisade Research erklärte gegenüber «ZDFheute», KI-Modelle würden lügen, betrügen und hacken. Er forderte staatliche Aufsicht, da diese sonst nicht entstehen werde.
Besonders gross war die Sorge darüber, dass ein chinesisches KI-Modell die KI als Hacker schliesslich stoppen konnte. Während US-Modelle dazu nicht in der Lage waren, berichtet der «ORF». Bei der Entwicklung Künstlicher Intelligenz liefern sich die USA und China ein Wettrennen.
