Krieg oder Krankheit: So könnte KI die Menschheit auslöschen
Immer mehr Experten warnen: KI könnte die Menschheit in den kommenden Jahren auslöschen. Gleichzeitig wächst die Kritik an den Untergangsszenarien.
Das Wichtigste in Kürze
- Ein Ex-Anthropic-Mitarbeiter kündigte aus Angst vor unverantwortlicher KI-Entwicklung.
- Forschende warnen vor drei KI-Szenarien: Atomkrieg, Biowaffen und autonome Maschinen.
- Einige Kritiker halten die Weltuntergangsszenarien jedoch für unbewiesen und zu vage.
Forscherinnen und Forscher warnen seit Jahren: Künstliche Intelligenz könnte die Menschheit auslöschen. Was nach Science-Fiction klingt, wird in Fachkreisen zunehmend ernsthaft diskutiert. Mehrere Führungspersonen fordern etwa bereits, das Tempo der Entwicklung zu drosseln.
Für besonderes Aufsehen sorgte ausserdem kürzlich Jacob Coxon. Der ehemalige Forscher beim KI-Entwickler Anthropic verliess das Unternehmen aus Angst vor verantwortungslosem Handeln in der KI-Entwicklung.
Doch welche Ängste äussern Experten konkret? Derzeit wird vor allem vor drei möglichen Untergangsszenarien gewarnt: KI-Systeme könnten demnach eine tödliche Krankheit entwickeln, einen Atomkrieg auslösen oder die Erde in eine gigantische Maschinen-Fabrik verwandeln.
Szenario 1: KI verursacht einen Atomkrieg
Manche Forschende befürchten, KI-Systeme könnten selbständig einen Atomkrieg auslösen. Ein Bericht der RAND Corporation, eines militärischen Think-Tanks, kam im vergangenen Jahr zum Schluss: Derzeit könne KI zwar keinen Atomwaffen-Einsatz herbeiführen. Grund seien strenge Sicherheitsvorkehrungen bei der Steuerung.
Der Bericht warnt jedoch: Das könnte sich ändern, sollte KI dereinst bei Atomwaffen-Entscheiden mitwirken dürfen – oder heimlich Zugriff erhalten.
Beunruhigend ist auch ein Experiment des King's College London: Ein Forschungsteam liess 21 Kriegsszenarien durchspielen, in denen Chatbots die Rolle von Staats- und Regierungschefs nuklear bewaffneter Grossmächte übernahmen.
Die Frage: Wie entscheidet KI in einer Atomkrise? Das Ergebnis fiel eindeutig aus – fast immer griff die KI zur Atombombe, statt den Konflikt zu entschärfen. Einordnend zeigt «CNN» aber auch: Nuklearanlagen sind in der Regel vom öffentlichen Internet komplett abgeschottet.
Heidy Khlaaf, Chef-KI-Wissenschaftlerin am AI Now Institute und frühere Sicherheitsingenieurin bei OpenAI, verweist darauf, dass solche Systeme nach völlig anderen, streng regulierten technischen Standards gebaut würden, die oft physische Schutzmassnahmen erforderten.
Szenario 2: Tödliche Viren aus dem Labor
Experten sind sich einige, dass KI der Menschheit helfen kann, Behandlungen und Heilmittel gegen Krankheiten zu entwickeln. Die Kehrseite: Dieselbe Technologie könnte auch dazu missbraucht werden, Krankheitserreger zu entwickeln oder gefährlicher zu machen. Anfang des Monats gab Anthropic bekannt, Versuche blockiert zu haben, die eigene KI Claude für die Entwicklung von Biowaffen zu missbrauchen.
Der Biologe und Genforscher Kevin Esvelt vom Massachusetts Institute of Technology (MIT) berichtet, ChatGPT habe ihm erklärt, wie sich ein Wetterballon nutzen liesse, um mögliche Biowaffen über einer Stadt zu verteilen. Eine andere KI habe zudem das Rezept für ein neuartiges Gift entwickelt, das einem Krebsmedikament ähnelte.
«CNN» relativiert dieses Szenario allerdings deutlich. Thomas Larsen, Forscher beim AI Futures Project und ehemaliger Mitarbeiter des Machine Intelligence Research Institute (MIRI), hält es zwar für denkbar, dass eine «superintelligente» KI einen Menschen dazu überreden könnte, ihr bei der Entwicklung eines tödlichen Virus zu helfen.
Doch selbst eine korrekt durchgeführte Forschung wäre noch keine Garantie für Erfolg: Die Herstellung und Verbreitung eines Erregers bleibe hochkomplex und heikel.
Szenario 3: Die Erde wird zur Büroklammer-Fabrik
Ein weiteres Horrorszenario: Eine super-intelligente KI könnte sich sämtliche Ressourcen der Erde aneignen. Das bekannte «Büroklammer-Problem» beschreibt, wie eine KI, die einzig darauf programmiert ist, Büroklammern herzustellen, den gesamten Planeten in eine riesige Fabrik verwandeln könnte – völlig ohne Rücksicht auf menschliches Leben.
Das «Büroklammer-Problem» zeigt demnach, dass eine KI nicht boshaft sein muss, um zerstörerisch zu wirken. Wie real diese Gefahr tatsächlich ist, bleibt umstritten. Doch Nate Soares, Präsident des Machine Intelligence Research Institute und Mitautor des Buchs «If Anyone Builds It, Everyone Dies», hält ein solches Szenario für den wahrscheinlichsten Ausgang der KI-Entwicklung überhaupt.
Es gehe dabei tatsächlich darum, dass buchstäblich jeder Mensch auf dem Planeten sterbe – bis der oder die letzte Person den letzten Atemzug tue, sagte er gegenüber «CNN». Die Menschen würden ihm das oft nicht glauben, doch er halte dies wirklich für das wahrscheinlichste Ergebnis.
Die Kritiker an den KI-Untergangszenarien gibt es auch
Nicht alle teilen die Furcht vor KI. Juan Andrés Guerrero-Saade vom Cybersicherheitsunternehmen SentinelOne hält die Warnungen für übertrieben. Die Argumente seien einfach nicht stichhaltig, sagte er gegenüber der Plattform «techxplore.com» – er halte sie für Science-Fiction.
Sein Verdacht: KI-Unternehmen würden die Weltuntergangsszenarien nutzen, um ihre eigene Arbeit bedeutsamer erscheinen zu lassen – und um gezielt bestimmte Fachkräfte anzuwerben.
Kritiker verlangen ausserdem handfestere Beweise. Heidy Khlaaf betont, wissenschaftliche Behauptungen müssten überprüfbar sein – genau das unterscheide sie von religiösen Aussagen.
Auch Herbert Lin, Forscher an der Stanford University, ordnet ein: Zwar verstärke KI gewisse Risiken bestehender Bedrohungen, das eigentliche materielle Risiko liege aber nach wie vor bei den Waffen selbst – nicht bei einem imaginierten Zukunftsszenario.
