Entwickler Anthropic schlägt Pause im KI-Wettlauf vor
«Gut für die Welt»: Das KI-Unternehmen Anthropic schlägt eine Entwicklungspause im Bereich der Künstlichen Intelligenz vor – ohne grossen Anklang zu finden.
Das Wichtigste in Kürze
- Eine Pause bei der Entwicklung von Künstlicher Intelligenz soll Risiken vorbeugen.
- Die Idee des KI-Unternehmens Anthropic kommt jedoch bei anderen Firmen schlecht an.
- Das Unternehmen warnt, dass der Mensch die Kontrolle über die KI verlieren könnte.
Das KI-Unternehmen Anthropic bringt eine Pause bei der Entwicklung Künstlicher Intelligenz ins Gespräch. «Wir glauben, dass es gut für die Welt wäre, die Option zu haben, die Entwicklung besonders fortgeschrittener Modelle zu verlangsamen oder zu pausieren.»
Dies hiess es in einem Blogeintrag des KI-Entwicklers. Ziel wäre, in dieser Zeit gesellschaftliche Strukturen anzupassen sowie die Forschung voranzutreiben, die sicherstellen soll, dass Künstliche Intelligenz im Interesse der Menschen agiert.
Anthropic räumte ein, dass für einen solchen Schritt ein Einvernehmen der grossen Entwickler Künstlicher Intelligenz notwendig wäre.
Bisher ist in der Branche keine Bereitschaft dazu zu erkennen. Die Unternehmen überbieten sich eher mit Plänen, hunderte Milliarden Dollar in KI-Infrastruktur wie gewaltige Rechenzentren zu investieren.
KI-Wettlauf mit China erschwert eine Verlangsamung
Auch Anthropic-Chef Dario Amodei hatte etwa auf dem Weltwirtschaftsforum (WEF) in Davos im Januar betont, dass der KI-Wettlauf mit China eine Verlangsamung der Entwicklung sehr stark erschwere, da es kaum eine durchsetzbare Vereinbarung geben könne.
Einseitige Pausen lehnt Anthropic ab: Dies würde nur ändern, wer vorn liege.
Als konkrete Massnahme will das Forschungsinstitut der KI-Firma nun gemeinsam mit anderen ein System zur Kontrolle ausarbeiten, das Entwicklern die Sicherheit geben soll, dass sich alle Teilnehmer an ein solches Moratorium halten und sich nicht jemand heimlich einen Vorteil verschafft.
Elon Musk schlug bereits vor Jahren eine Entwicklungspause vor
Auch Tech-Milliardär Elon Musk hatte sich vor Jahren für eine sechsmonatige Pause bei der KI-Entwicklung ausgesprochen, um Risiken vorzubeugen. Später wurde bekannt, dass er parallel die Gründung einer eigenen KI-Firma vorantrieb.
Auslöser für den aktuellen Vorstoss ist laut Anthropic der schnelle Fortschritt der KI-Modelle, vor allem bei der Fähigkeit, sich selbst zu verbessern und weiterzuentwickeln.
Wenn sie dazu in der Lage sein würden, werde das Risiko steigen, dass die Menschen die Kontrolle über die Künstliche Intelligenz verlieren. Der Meilenstein könne schneller erreicht werden als viele Institutionen dazu bereit sein würden, warnte Anthropic.
Das weisse Haus kritisiert Anthropic
Die Firma, die die KI-Software Claude entwickelt, tritt oft als Mahner auf und forderte unter anderem auch eine striktere Regulierung der Branche, um Risiken vorzubeugen. Aus dem Weissen Haus von Präsident Donald Trump wurde Anthropic deswegen vorgehalten, dies würde die US-Industrie im globalen Wettbewerb bremsen.
Zuletzt sorgte Anthropic für Aufsehen mit der Software Claude Mythos Preview, die in verschiedenen Programmen zum Teil über Jahrzehnte unentdeckte Sicherheitslücken fand.
