Künstliche Intelligenz – Experte: Nur so können wir sie überleben
Künstliche Intelligenz entwickelt sich rasch weiter. Einer, der bestens über das Potenzial von KI Bescheid weiss, warnt: Sie muss mütterliche Instinkte haben.
Das Wichtigste in Kürze
- Der «Godfather of AI» warnt: KI-Modelle müssen mütterliche Instinkte haben.
- Fehlt die Empathie, sei die Menschheit in wenigen Jahren in grosser Gefahr.
- Soziologe Marko Kovic schreibt, KI werde wohl das Ende der Menschheit bedeuten.
Geoffrey Hinton ist in Sachen Künstliche Intelligenz alles andere als ein Unbekannter. Der britisch-kanadische Nobelpreisträger mit dem Übernamen «Godfather of AI» entwickelte KI mit.
Mittlerweile macht er vor allem durch Warnungen auf sich aufmerksam – so auch diese Woche. Im Interview mit CNN sagt Hinton, dass Künstliche Intelligenz Empathie haben müsse – ansonsten drohten wir, sie nicht zu überleben.
Hinton: Künstliche Intelligenz muss Empathie verspüren
Der Experte warnte in der Vergangenheit bereits, es bestehe eine zehn- bis 20-prozentige Chance, dass KI die Menschheit auslöschen werde. Damit dies nicht geschehe, müsse man «mütterliche Instinkte» in die KI-Modelle einbauen.
Sollten KI-Modelle dann mal deutlich schlauer und leistungsfähiger sein als Menschen, würden sie sich um die Menschen «kümmern». «Wenn wir so etwas nicht tun, werden wir Geschichte sein», meint Hinton.
Mütter als Vorbild? Ja, meint der Experte, denn diese würden einen Instinkt und einen sozialen Druck verspüren, sich um ihre Babys zu kümmern.
«Das ist das einzig gute Ergebnis. Wenn sie mich nicht erziehen, werden sie mich ersetzen», sagt der Experte.
Und weiter: «Diese superintelligenten, fürsorglichen KI-Mütter werden grösstenteils ihren Mutterinstinkt nicht aufgeben wollen, weil sie nicht wollen, dass wir sterben.» Noch wisse man aber nicht, wie man diese Empathie für Menschen in eine KI einbauen kann.
Für KI-Entwickler, die versuchen, dass KI-Modelle «unterwürfig» und Menschen «dominant» bleiben, gibt es vonseiten Hintons Kritik.
«Das wird nicht funktionieren. Sie werden viel intelligenter sein als wir. Sie werden alle möglichen Wege finden, um das zu umgehen», zitiert ihn CNN aus einer Veranstaltung.
Doch auch die Meinung des Nobelpreisträgers stösst auf Widerspruch – ausgerechnet bei Fei-Fei Li, auch genannt «Godmother of AI». Die KI-Expertin setzt auf eine «menschenzentrierte KI, die die Würde und Handlungsfähigkeit des Menschen bewahrt».
Soziologe Kovic: «Alle Massnahmen werden scheitern»
Pessimistisch bezüglich des Themas Künstliche Intelligenz zeigt sich auch der Gesellschaftskritiker und Nau.ch-Kolumnist Marko Kovic.
In einem «LinkedIn»-Beitrag vom Donnerstag schreibt der Soziologe: «Künstliche Intelligenz ist existenzielles Risiko, das mit hoher Wahrscheinlichkeit das Ende der Menschheit bedeutet».
Zu jener existenziellen Bedrohung werde KI, «falls wir ‹Artificial General Intelligence› AGI erschaffen». Dabei handelt es sich um Superintelligenz, die laut Nobelpreisträger Hilton in fünf bis 20 Jahren existieren wird.
Kovic warnt, dass Menschen die Fähigkeiten von Superintelligenz nicht einschränken könnten: «Alle Eindämmungsmassnahmen (Stecker ziehen etc.) werden zwangsläufig scheitern, weil AGI / ASI intelligenter als wir ist und wir sie nicht ‹austricksen› können.» Zudem sei die Motivation von AGI nicht kontrollierbar.
Angesichts des «immensen Risikos» ist der rationale Umgang mit Künstlicher Intelligenz laut Kovic: «Die gesamte KI-Entwicklung drastisch regulieren oder gänzlich verbieten.»
Doch derzeit geschehe genau das Gegenteil: «Ein unreguliertes globales KI-Wettrüsten. Es stürzt uns ins Verderben.»
Kovics Fazit: «Wir sind zu wenig intelligent, um AGI zu kontrollieren. Aber mehr als genug intelligent, um unsere Zerstörung durch AGI in die Wege zu leiten.»
