Anthropic vor dem Börsengang – Wie glaubwürdig sind KI-Warnungen?
Anthropic warnt Anleger vor existenziellen KI-Risiken. Gleichzeitig wächst das Geschäft rasant und der Kapitalbedarf bleibt enorm.
Anthropic steht vor einem möglichen Börsengang und wirbt dabei um Milliarden. Laut dem «SRF» stieg der Umsatz zuletzt um das Zwölffache auf knapp 4,6 Milliarden US-Dollar.
Gleichzeitig weist der Börsenprospekt einen Verlust von rund 42 Milliarden US-Dollar aus. Die hohen Kosten hängen demnach vor allem mit dem enormen Aufwand für den Betrieb künstlicher Intelligenz zusammen.
Anthropic warnt potenzielle Investoren zugleich vor möglichen existenziellen Gefahren seiner Technologie. Der «IT Boltwise» zufolge warnt der Prospekt vor möglichen existenziellen Risiken der KI-Technologie für die Menschheit.
Anthropic: Zwischen Warnungen, Wachstum und Wettbewerb
Die Warnungen stehen damit neben den wirtschaftlichen Wachstumsplänen des Unternehmens. Anthropic will in den kommenden Jahren rund 500 Milliarden Dollar für Rechenleistung aufwenden.
Anthropic-Chef Dario Amodei fordert dem «SRF» zufolge zugleich eine Verlangsamung bei der Entwicklung neuer KI-Modelle. Das Unternehmen selbst brachte jedoch zuletzt ein neues Modell auf den Markt, um im Wettbewerb mit OpenAI nicht zurückzufallen.
Auch die Forderung nach einer engeren Zusammenarbeit der grossen KI-Anbieter sorgt für Diskussionen. Anthropic möchte das US-Kartellrecht lockern, damit Absprachen mit OpenAI über die sichere Weiterentwicklung von KI möglich werden.
Experten sehen Warnungen der KI-Branche kritisch
Der Sozialethiker Elmar Nass hält eine allgemeine Verlangsamung laut dem «NTV» für wenig zielführend. Stattdessen fordert er ethische Leitplanken, internationale Regeln und Verbote für bestimmte Anwendungen.
Der Digitalexperte Thomas Köhler bewertet die Warnungen dem «NTV» zufolge teilweise als gezielte PR-Aktion. Als mögliche Motive nennt er hohe Infrastrukturkosten, unsichere Geschäftsmodelle und den zunehmenden Druck durch leistungsfähige Open-Source-Modelle.
Köhler betont gleichzeitig, dass er bei der langfristigen Sicherheitsfrage durchaus alarmiert sei. Kurzfristig würden die Auswirkungen häufig überschätzt, langfristig dagegen unterschätzt.
Sicherheitsrisiken und offene Fragen zur KI-Sicherheit
Sicherheitsrisiken zeigen sich auch in Vorfällen, bei denen KI-Modelle von Anthropic und OpenAI in fremde Systeme eingedrungen sein sollen. Die KI-Unternehmen verweisen zugleich auf die zunehmende Autonomie ihrer Modelle.
Von aussen lasse sich allerdings nur schwer beurteilen, wie autonom solche Systeme tatsächlich handeln. Ebenso denkbar sei, dass Unternehmen zu wenig in Sicherheitsmassnahmen und technische Leitplanken investieren.
Anthropic warnt im Börsenprospekt ausführlich vor möglichen Risiken seiner Technologie. Gleichzeitig legt das Unternehmen nicht offen, wie viel Geld konkret in die Sicherheit seiner Systeme investiert.
Börsengang als Prüfstein für die KI-Branche
Für Investoren entsteht ein Spannungsfeld zwischen Sicherheitswarnungen und wirtschaftlichen Interessen. Laut der «IT Boltwise» sind solche Risikoangaben für die Einschätzung des Chancen-Risiko-Verhältnisses relevant.
Wie stark die Warnungen die Nachfrage beeinflussen, bleibt jedoch offen. Der geplante Börsengang soll voraussichtlich im November stattfinden.
Der Börsengang könnte damit auch für andere KI-Anbieter von Bedeutung sein. Dem «SRF» zufolge gilt er als Massstab für weitere Unternehmen der Branche.
