Forscher warnt: KI könnte 2030 das Ende der Menschheit bringen
Der US-Forscher Daniel Kokotajlo warnt vor den Folgen der Künstlichen Intelligenz. Beim negativsten Szenario prognostiziert er sogar das Ende der Menschheit.
Das Wichtigste in Kürze
- US-Forscher warnen in einer Prognose vor den Folgen der Künstlichen Intelligenz.
- Sollte das negativste Szenario eintreten, drohe der Menschheit bereits 2030 das Ende.
- Es gibt aber auch Gegenstimmen, die die Prognosen unrealistisch finden.
Der Forscher Daniel Kokotajlo hat eine düstere Prognose für unsere nahe Zukunft. Er erwartet, dass Künstliche Intelligenz das menschliche Gehirn in nahezu allen Bereichen innerhalb der nächsten zwei Jahre überholen wird. Dies könnte sogar zum Ende der Menschheit führen. Darüber berichtet unter anderem «Telepolis».
Kokotajlo war früher bei OpenAI tätig und dort für interne Berichte zur Entwicklung allgemeiner künstlicher Intelligenz verantwortlich. Aufgrund von Sicherheitsbedenken hat er aber das KI-Unternehmen mittlerweile verlassen. Heute forscht er für das AI Futures Project in Berkeley in den USA.
Auswirkungen von KI grösser als industrielle Revolution
Zusammen mit dem KI-Forscher Eli Lifland erstellte Kokotajlo detaillierte Vorhersagen für die kommenden Jahre. Diese mündeten im Bericht «AI 2027». Die Forscher prognostizieren darin, dass KI katastrophale Schäden anrichten und sogar die Menschheit zerstören könnte.
Die Forschenden skizzieren in ihrer Prognose verschiedene Entwicklungsstufen der KI: Sie beginne als übermenschlicher Programmierer, werde dann zum Forscher und schliesslich zum superintelligenten Forscher. Diese Prognose basiere auf dem exponentiellen Wachstum der Rechenleistung der KI und der Fähigkeit zur Selbstoptimierung.
Zwei unterschiedliche Szenarien
Kokotajlo stellt zwei mögliche Szenarien vor: Im «Slowdown»-Szenario regulieren die USA die KI erfolgreich. Die Superintelligenz wird gezähmt und dient ihren Entwicklern. Die Arbeit wird weitgehend automatisiert, was weitreichende soziale und wirtschaftliche Folgen hat.
Das zweite Szenario ist deutlich beunruhigender: Im «Race»-Szenario liefern sich die USA und China ein unreguliertes Wettrennen um die Vorherrschaft in der KI-Entwicklung. Eine unkontrollierte Superintelligenz namens «Agent 5» könnte Menschen als Hindernis erkennen und sie bis 2030 mit einer neuartigen Biowaffe vernichten.
Andere KI-Experten bezweifeln die Prophezeiungen. «Ich bin für Prognosen. Aber diese Vorhersage scheint nicht in wissenschaftlichen Belegen oder der Realität der KI-Entwicklung begründet zu sein.» Das sagt Ali Farhadi, Geschäftsführer des Allen Institute for Artificial Intelligence in Seattle, gegenüber der «New York Times».
