Bitte bei den KI-Bossen ganz genau hinschauen!
«Die KI-Branche muss ihr Entwicklungstempo drosseln.» Drei Tech-Milliardäre sind sich plötzlich einig. Eine Kolumne von Meret Schneider.
Das Wichtigste in Kürze
- Nationalrätin Meret Schneider (Grüne) schreibt auf Nau.ch regelmässig Kolumnen.
- Heute schreibt Schneider über die Regulierung von KI.
Wenn sich drei Tech-Milliardäre, die sich gegenseitig schon verklagt und beschimpft haben, plötzlich in trauter Einigkeit zeigen, lässt das aufhorchen.
Dario Amodei, Elon Musk und Sam Altman (Open AI) kommen zum gemeinsamen Schluss: Die KI-Branche muss ihr Entwicklungstempo drosseln, ansonsten drohten ernstzunehmende Gefahren.
Angestossen hatte die Diskussion Dario Amodei von Anthropic in einem Essay, in dem er eindringlich warnte, KI könnte die Menschheit bis 2030 mit einer Wahrscheinlichkeit von zehn Prozent auslöschen.
Die Fähigkeiten der KI, so Amodei, würden sich so schnell weiterentwickeln, dass es Unternehmen nicht möglich sein werde, ausreichende Schutzmechanismen zu erarbeiten.
Seine Forderungen wirken auf den ersten Blick überraschend: Die Branche soll ihr Tempo drosseln und stärker reguliert werden.
Dies soll in drei Schritten geschehen: Zuerst sollten die Unternehmen externen Prüferinnen und Prüfern Zugang gewähren. In einem zweiten Schritt sollten die demokratischen Staaten sich zusammenschliessen, um verpflichtende Richtlinien zu erlassen. Und letzten Endes brauche es internationale Regeln, bei denen namentlich auch China mitarbeitet.
Kurz nach Veröffentlichung der These pflichteten ihm Elon Musk und Sam Altman bei – auch dies auf den ersten Blick erstaunlich.
Techmilliardäre, deren Erfolgsmodell auf Deregulierung und «freier Marktwirtschaft» im KI- und Social-Media-Sektor basiert, plädieren für Regulierung und eine Entwicklungspause? Ernsthaft?
Auslöser für die Debatte war, so könnte man meinen, ein Vorfall, bei dem KI-Agenten trotz vermeintlich klarer Anweisungen einen Techkonzern hacken konnten.
Der Angriff verlief zwar harmlos, zeigte jedoch auf, wie Agenten eigentlich eindeutig erscheinende Aufträge auf eine Art und Weise angehen können, die dem ursprünglichen Willen der Programmierer widerspricht, wie in einem Bericht des «Tagesanzeigers» zu lesen war.
KI-Modelle können sich selbst verbessern
Berechtigt scheint daher die Sorge davor, was geschehen würde, wenn KI-Agenten in die Hände feindlicher Staaten oder Terroristen gelangen würden.
Anthropic, das unter anderem den Chatbot Claude anbietet, beschreibt ausserdem in einem kürzlich erschienenen Sicherheitsbericht Fälle, in denen Personen versuchten, mittels Claude gefährliche Viren und Gifte zu entwickeln.
Multipliziert wird die Gefahr dadurch, dass sich KI-Modelle mittlerweile rekursiv selbst verbessern können. Das Modell analysiert sich selbst und entwickelt sich kontinuierlich weiter, was zu schnellerem Fortschritt, aber auch zu stärkerem Kontrollverlust führt.
Das beunruhigt zu Recht und lässt die Forderung nach Regulierung und einem Marschhalt vernünftig und weitsichtig erscheinen.
Doch ist dies das Ansinnen der Techmilliardäre? Wenn man das bisherige Verhalten der KI-Pioniere betrachtet, bringt man die Forderung kaum in Einklang mit den sonstigen Zielen der jeweiligen Konzerne.
Es sei denn, man lässt den Blick über die Grenzen schweifen. Während die genannten Techfirmen derzeit noch führend in ihrer Branche sind, droht China aufzuholen und den Vorsprung der US-Konzerne zu verringern.
Es mag daher auch kein Zufall sein, dass Amodei unter anderem fordert, keine KI-Chips an China zu liefern, solange sich China nicht ebenfalls zu einer Regulierung verpflichtet.
Aus reiner Sorge um die Gefahren, die von KI ausgehen könnten? Vielleicht. Vielleicht aber auch, um China in seiner Entwicklung auszubremsen und den eigenen Vorsprung auszubauen oder zumindest zu erhalten.
Mehr ein Marketing-Move als Übernahme von Verantwortung
Ein weiterer Grund, der naheliegender als ein plötzlich aufkeimendes Gefühl der Verantwortung aufseiten der Techkonzerne scheint, ist ein finanzieller.
Denn: Je wirkungsmächtiger und disruptiver die CEOs ihre Technologie darstellen, desto höher dürften Investitionen in die Firmen ausfallen. Und darauf sind sie mehr als angewiesen.
Damit sich die Milliarden-Investitionen von Open AI oder Anthropic auszahlen, müssen sie massive Umsätze erzielen, die bisher nicht ansatzweise erreicht wurden.
Gut möglich also, dass das Heraufbeschwören der grossen Gefahr KI mehr «Marketing-Move» als Übernahme von Verantwortung darstellt.
Zu guter Letzt könnte die Vorwegnahme der Regulierung auch eine Reaktion auf Bestrebungen verschiedener Staaten sein, KI-Regulierungen zu erlassen, die wesentlich weiter gehen würden, als was die Techies vorschlagen – und die deren Geschäftsmodell ernsthaft schädigen könnten.
Mit der scheinbaren Übernahme von Verantwortung und eigenen Vorschlägen zur Regulierung positionieren sie sich als verantwortungsbewusste Unternehmer. Und drücken einer möglichen Regulierung ihren Stempel auf, indem sie potenziell geschäftsschädigende, aber demokratietheoretisch wichtige Regulierungen bewusst ausklammern.
Was auch immer im Konkreten die Gründe für das regulatorische Vorpreschen der KI-CEOs sind: Es wird sich lohnen, bei ihren Vorschlägen und deren Motivation ganz genau hinzuschauen.
Zur Person
Meret Schneider (33) ist Mitglied des Schweizer Nationalrats. Sie arbeitet als Projektleiterin beim Kampagnenforum. Weiter ist sie Vorstandsmitglied der Grünen Partei Uster ZH.
