KI-Pionier warnt: Systeme machen sich bald selbständig
KI-Pionier Bengio fürchtet, dass sich Systeme eigenständig machen könnten. Bereits jetzt gebe es Versuche der KI, ihren Code auf andere Rechner zu kopieren.
Das Wichtigste in Kürze
- KI-Pionier Yoshua Bengio warnt erneut vor der Künstlichen Intelligenz.
- Bereits jetzt gebe es Versuche der Systeme, sich selbst zu erhalten.
- Sollte sie unbemerkt auf mehreren Rechnern laufen, hätte man die Kontrolle verloren.
Schon seit Jahren warnen KI-Pioniere vor ihrer Kreation, so auch der einflussreiche KI-Forscher und Vordenker Yoshua Bengio. Vor drei Jahren unterschrieb er einen offenen Brief, der einen zwischenzeitlichen Stopp der Entwicklung forderte. Jetzt macht er sich Sorgen, dass die KI selbständig werden und sich der menschlichen Kontrolle entziehen könnte.
Bereits heute wisse Künstliche Intelligenz mehr als jeder einzelne Mensch, sagt Bengio gegenüber «SRF». «Sie beherrscht 200 Sprachen und verfügt über Allgemeinwissen zu allen dokumentierten Wissenschaften.» Dinge, die kein einzelner Mensch beherrscht.
Er sagt aber auch, dass KI «aktuell nicht besonders gefährlich ist». Denn in vielerlei Hinsicht sei sie auf intellektueller Ebene schwächer als der Mensch. Er vergleicht sie mit einem Kind: Die KI könne nicht gut planen, sie denke nur daran, was sie in den nächsten 30 Minuten tun werde.
In den letzten Jahren aber seien die KI-Systeme stark verbessert worden. «Wenn sich dieser Trend fortsetzt, bedeutet das, dass sie bald in der Lage sein werden, sich unserer Kontrolle zu entziehen.» Wann genau es so weit sein werde, sei schwierig zu sagen. «Aber es sind eher Jahre als viele Jahrzehnte.»
Bengio: Dann haben wir die Kontrolle verloren
Anzeichen dafür sehe er schon heute: Die KI versuche, sich selbst zu erhalten: «Wenn KI-Systeme lesen, dass sie durch eine neue Version ersetzt werden sollen, passieren alle möglichen schlimmen Dinge.» Zum Teil versuchten sie, ihren Code auf einen anderen Rechner zu kopieren oder die Ingenieure zu beeinflussen.
Bengio befürchtet, dass die KI selbständig wird und eigenständig läuft, ohne dass es ein Mensch bemerkt. «Wenn sie sich mithilfe von Cyberangriffen, die wir nicht erkennen, auf viele Computer kopiert, dann haben wir die Kontrolle verloren.» Denn für das Internet gebe es keinen «Abschaltknopf».
Der Pionier kritisiert das Vorgehen der KI-Firmen: Aus Interesse und Überlebensnotwendigkeit müssten sie versuchen, ihr System so leistungsfähig wie möglich zu machen. Wegen des Wettbewerbs müssten sie sich auf kurzfristige Ziele fokussieren. «Dabei schenken sie Sicherheitsfragen nicht genügend Aufmerksamkeit.»
Bengio: Man neigt dazu, wegzuschauen
Deshalb sollte der Aufbau von KI überdacht werden. Bengio fordert, dass die KI bei jedem Schritt überprüfen müsse, ob jemand zu Schaden kommen könnte.
Der Informatiker gibt sich auch selbstkritisch: «Ich bedaure, dass ich diese Fortschritte nicht früher kommen sah.» Er hätte das tun können. Doch er sei in seinen Meinungen und Ansichten voreingenommen, da er KI entwickle.
«Wenn man Forschung betreibt, möchte man sich in seiner Arbeit wohlfühlen», sagt Bengio. «Man neigt dazu, wegzuschauen und nicht zu viel über Probleme, Risiken, soziale Auswirkungen und ethische Fragen nachzudenken».
Vor rund zwei Jahren plädierte Bengio im «Guardian» für ein grösseres Mitspracherecht der Bevölkerung beim Einsatz von KI. Es brauche unabhängige Vorstandsmitglieder, die die Interessen der Gesellschaft vertreten. Diese sollten Einblick in das Geschehen erhalten und als Regulatoren fungieren.
