Studie: Künstliche Intelligenz als Weltenzerstörer
In einer neuen Studie argumentieren Oxford-Forscher dafür, dass künstliche Intelligenz zu einer existenziellen Katastrophe für die Menschheit werden könnte.
Das Wichtigste in Kürze
- Ein Forschungsteam aus Oxford warnt in einem neuen Paper vor künstlicher Intelligenz (KI).
- Demnach sei es wahrscheinlich, dass KI zu einer existenziellen Katastrophe führen würde.
- Gleichzeitig betonen die Forschenden: Alle ihre Annahmen seien durchaus anfechtbar.
Eine neue Studie von der Oxford-Universität schlussfolgert, dass künstliche Intelligenz «wahrscheinlich» in einer «existenziellen Katastrophe» münden wird. Die Studie wurde auf den Seiten des AI Magazine publiziert. Die Grundidee der Forscher ist simpel: Eine besonders intelligente Maschine könnte lernen, den Menschen auszutricksen, um an eine Belohnung zu gelangen.
Bostrom, Russell, and others have argued that advanced AI poses a threat to humanity. We reach the same conclusion in a new paper in AI Magazine, but we note a few (very plausible) assumptions on which such arguments depend. https://t.co/LQLZcf3P2G 🧵 1/15 pic.twitter.com/QTMlD01IPp
— Michael Cohen (@Michael05156007) September 6, 2022
Eine solche künstliche Intelligenz könnte zu diesem Zweck beispielsweise unbemerkte, unüberwachte Helfer installieren. Auf diese Weise könnte die Maschine den ursprünglichen Bediener schrittweise ersetzen, um sich selbst eine grössere Belohnung anzubieten.
Einer der Co-Autoren, Michael Cohen, arbeitet neben seiner Universitätsprofessur auch als Forschungschef bei Deep-Mind. Das Unternehmen gehört dem Google-Mutterkonzern Alphabet und spezialisiert sich auf die Programmierung von künstlicher Intelligenz. Der Experte betont, dass fast alle Annahmen der Studie entweder anfechtbar oder vermeidbar seien.
