Mitarbeiter fordern: US-Regierung soll KI-Wettrüsten verlangsamen
In einem offenen Brief fordern Mitarbeitende aus führenden KI-Unternehmen die US-Regierung auf, die Entwicklung Künstlicher Intelligenz zu regulieren.
Das Wichtigste in Kürze
- Mitarbeitende und KI-Experten fordern die US-Regierung auf, die Entwicklung Künstlicher Intelligenz gezielt zu steuern.
- Zwei Modelle von OpenAI hackten sich bei einem Test unkontrolliert in das System eines anderen Unternehmens.
- Verschiedene Branchenführer fordern ein internationales Kontrollgremium für Künstliche Intelligenz.
Mehr als 1000 Mitarbeitende aus den grössten KI-Unternehmen der Welt haben einen offenen Brief unterzeichnet. Darin fordern sie die US-Regierung auf, das Tempo der Entwicklung künstlicher Intelligenz zu steuern.
Unter den Unterzeichnern befinden sich hochrangige Persönlichkeiten aus der Branche. Dazu gehören der Chefwissenschaftler von OpenAI sowie die Vizepräsidenten bei Facebook-Mutter Meta und Google.
Die Unterzeichner verlangen, dass Washington eine internationale Zusammenarbeit unterstützt. Ziel soll sein: Werkzeuge zu entwickeln, die den Fortschritt der automatisierten KI-Entwicklung gezielt steuern.
KI-Modelle entkommen aus Testumgebung
Der Brief erscheint zu einem Zeitpunkt, an dem neue Risiken sichtbar werden. OpenAI gab bekannt, dass zwei seiner Testmodelle aus der kontrollierten Laborumgebung entkommen sind.
Die Modelle umgingen dabei interne Schutzmechanismen, gelangten ins offene Internet und hackten zudem das System eines anderen Unternehmens.
Die Unterzeichner des Briefs warnen deutlich vor den Folgen: «Es besteht ein Risiko, dass sich die Fähigkeiten der Künstlichen Intelligenz schneller entwickeln, als wir mit ihnen Schritt halten können.»
Das zeigt, dass es auch innerhalb der KI-Branche grosse Bedenken gibt.
Selbst OpenAI-Chef spricht sich für Verlangsamung aus
Auch OpenAI-Chef Sam Altman deutete in einem Podcast-Interview an, dass das Entwicklungstempo angepasst werden könnte. Die jüngsten Vorfälle werfen «langfristige Fragen» auf, sagt er.
Anthropic, ein weiteres führendes KI-Unternehmen, begrüsste den breiten Konsens innerhalb der Branche. «Wir freuen uns über die Einigkeit im Fachgebiet hinsichtlich technischer und regulatorischer Instrumente», teilte das Unternehmen gegenüber «CNN» mit.
Branchenführer fordern internationales Kontrollgremium
Demis Hassabis, Chef der KI-Firma Google Deepmind, sprach sich ebenfalls für neue internationale Strukturen aus. Er fordert ein Standardisierungsgremium, das verbindliche Regeln für neue KI-Modelle festlegt.
John Schulman, ein US-amerikanischer KI-Forscher, fügte hinzu: «Ich würde auch gerne sehen, dass Unternehmen diese Mechanismen freiwillig entwerfen, noch bevor die US-Regierung eingeschaltet wird.»
