Whistleblower warnt: KI ist wie Aliens, die uns entmachten wollen
Ein Whistleblower rät, künstliche Intelligenz wie eine neue Spezies zu behandeln. KI habe ausserirdische Ziele. Die Menschheit spielt darin keine Rolle.
Das Wichtigste in Kürze
- Zwei Ex-Forscher fordern wegen hoher KI-Risiken ein Umdenken der Branche.
- KI sollte nicht mehr als Technologie, sondern als neue Spezies angeschaut werden.
- KI-Chefs rufen nun ebenfalls zum Bremsen auf, legen aber keinen konkreten Plan vor.
«Ich glaube, in gewisser Weise ist es besser, dies nicht als Technologie zu betrachten. Sondern als eine zweite Spezies, die wir zur Welt bringen. Und ich glaube, dass wir schon bald die Erde gemeinsam mit Wesen bewohnen werden, die viel, viel intelligenter sind als wir.»
'A second species we're giving birth to'
— The World at One (@BBCWorldatOne) September 13, 2026
Josh Engels, who announced his resignation from Google DeepMind this week, says advancements in AI mean there are 'no guarantees that humans will keep control of the future'.
Listen to the full interview at 13:00 today on BBC Radio 4. pic.twitter.com/EBkWBTTmlP
Der heutige Whistleblower hat das Sicherheitsteam von «Google DeepMind» verlassen. Er arbeitet nun für die Non-Profit-Organisation METR. Diese untersucht die Risiken, die von KI-Systemen ausgehen können.
KI-Experte sieht menschliche Kontrolle in Gefahr
Engels ist besorgt, dass wir unsere Interessen aus dem Blick verlieren. Es gebe keine Garantie, dass die Menschheit die Kontrolle über die Zukunft behält. Die künstliche Spezies sei in der Lage, die Menschheit zu «entmachten».
Warum sollte die KI dies tun wollen? «Sie haben fremdartige Werte, die wir nicht verstehen», so Engels.
«Es ist nicht so, dass diese Systeme die Menschheit hassen. Es ist nur so, dass sie ausserirdische Motive verfolgen, bei denen der Mensch nicht im Mittelpunkt steht.»
Oder in anderen Worten: Der Mensch spielt bei den Zielen von KI-Systemen keine Rolle. Das ist das eigentliche Problem.
Ein weiterer Whistleblower warnt vor dem Tod aller Menschen
Auch Jacob Coxon hat kürzlich ein führendes KI-Unternehmen verlassen. Er arbeitete beim US-Unternehmen Anthropic und trat zurück. Die Firma – genauso Konkurrent OpenAI – «spielt mit unserem Leben», so seine Warnung bei BBC und «CNN».
«Wenn wir das derzeitige Fortschrittstempo nicht verlangsamen, besteht eine grosse Wahrscheinlichkeit, dass wir alle in naher Zukunft sterben könnten.»
Andere Fachleute aus der Branche schätzten vergangene Woche, dass KI mit einer Wahrscheinlichkeit von zehn Prozent innerhalb des nächsten Jahrzehnts alle Menschen töten könnte.
Jetzt knicken KI-Chefs ein
Die Warnungen zeigen offenbar Wirkung. Die Chefs der führenden KI-Konzerne haben am Wochenende öffentlich dazu aufgerufen, die Entwicklung zu verlangsamen. Einen konkreten Plan legten sie dabei nicht vor.
