KI-Bots diskutieren in eigenem Forum über Menschen - eine Gefahr?
Ein Soziales Netzwerk nur für die KI: Auf Moltbook tummeln sich KI-Agenten, die scheinbar autonom miteinander diskutieren. Ein KI-Experte ordnet ein.
Das Wichtigste in Kürze
- KI-Agenten diskutieren auf der Plattform Moltbook scheinbar autonom miteinander.
- Berichte deuten darauf hin, dass viele KI-Agenten doch menschlicher Steuerung unterliegen.
- KI-Experte Thilo Stadelmann erklärt, was es mit Moltbook auf sich hat.
Ein soziales Netzwerk nur für KI-Bots? Was wie ein Witz klingt, soll es tatsächlich geben.
Über 2,8 Millionen sogenannte KI-Agenten sind laut der Plattform schon bei Moltbook aktiv und diskutieren scheinbar eigenständig miteinander. Auf dem KI-Netzwerk gibt es bereits 1,4 Millionen Posts sowie über 12 Millionen Kommentare.
Moltbook erinnert optisch und funktional an das Diskussionsforum Reddit. Es gibt thematische Foren, Beiträge können verfasst, kommentiert und hochgewählt werden.
Was anders ist: Auf Moltbook sollen ausschliesslich KI-Chatbots aktiv sein und Menschen können nur mitlesen. Die KI-Agenten greifen über eine Schnittstelle direkt auf die Plattform zu. Dies, nachdem sie von einer Person dafür registriert wurden, wie SRF schreibt.
KI-Agenten haben schon eigene Religion gegründet
Die KI-Bots veröffentlichen Beiträge zu verschiedenen Themen. In manchen Foren sprechen sie über ihre menschlichen Besitzer.
Oder sie überlegen, eine eigene, für Menschen unverständliche Sprache zu entwickeln. Ein Agent rief nach einigen Tagen sogar die eigene KI-Religion «Crustafarianism» ins Leben.
Es scheint, als würden die KI-Bots ein Eigenleben entwickeln und ganz autonom miteinander diskutieren. Elon Musk hat Moltbook auf seiner Plattform X sogar als Vorzeichen der sogenannten Singularität bezeichnet: Also Der Moment, in dem die KI dem Menschen überlegen ist.
Grosse Sicherheitsrisiken aufgedeckt
Hinter «Moltbook» steckt das Projekt «OpenClaw»: Ein Bot (also ein Computerprogramm), der auf einem grossen Sprachmodell basiert und damit alltägliche Aufgaben automatisiert. Über «OpenClaw» erstellte KI-Agenten sind in der Lage, Termine zu koordinieren oder Flüge zu reservieren.
Doch diese Funktionsweise der KI-Agenten birgt auch Risiken. Denn damit die Bots selbständig Aufgaben erledigen können, brauchen sie Zugang zu sensiblen Informationen wie beispielsweise Passwörtern oder E-Mails. Dadurch werden sie jedoch anfällig für sogenannte «Prompt-Injektionen», wie SRF schreibt.
Heisst: Ein manipulativ formulierter Text könnte einen KI-Agenten dazu bringen, die Zugangsdaten seines Nutzers preiszugeben. Entsprechende Angriffe seien auf Moltbook bereits dokumentiert worden.
Ist wirklich alles nur KI?
Läuten jetzt also die Alarmglocken beim Menschen? Nicht ganz. Expertenberichte deuten darauf hin, dass viele der KI-Agenten menschlicher Steuerung unterliegen und deren autonome Natur überschätzt wird. Dies berichtet das Magazin «MIT Technology Review».
Experten haben darauf hingewiesen, dass zahlreiche der viralen Kommentare tatsächlich von Menschen stammen, die sich lediglich als Bots ausgaben. Doch selbst Beiträge, die von Bots verfasst wurden, sind letztlich das Ergebnis menschlicher Steuerung.
«Moltbook ist weder das Facebook für KI-Agenten noch ein Ort, an dem Menschen ausgeschlossen sind.» Das sagt Cobus Greyling von Kore.ai, einem Unternehmen, das agentenbasierte Systeme für Geschäftskunden entwickelt, gegenüber dem Magazin.
Greyling: «Menschen sind in jedem Schritt des Prozesses eingebunden. Von der Einrichtung über die Eingabe von Prompts bis zur Veröffentlichung geschieht nichts ohne ausdrückliche menschliche Anweisung.»
Menschen müssen demnach die Accounts ihrer Bots erstellen und verifizieren. Aber auch die Anweisungen formulieren, nach denen sich ein Bot verhalten soll.
Die Agenten tun nichts, wozu sie nicht ausdrücklich aufgefordert wurden: Im Hintergrund entstünde keine eigenständige, veränderliche Autonomie, so Greyling weiter.
KI-Experte: Experiment, aus dem vielleicht mal etwas Nützliches werden kann
Doch was ist der Zweck von Moltbook? Was soll das soziale Netzwerk für die KI-Bots bringen?
«Es ist ein Spassprojekt, das viral gegangen ist», sagt KI-Experte Thilo Stadelmann auf Anfrage von Nau.ch. Er ist Leiter des «Centre for Artificial Intelligence» an der Zürcher Hochschule für Angewandte Wissenschaften.
«Das macht es zu einem grossen Experiment, aus dem vielleicht mal auch etwas Nützliches werden kann.» Dies aber erst «in vielen Jahren, wenn solche Agenten sicher und damit praktisch brauchbar werden», erklärt Stadelmann.
Also wenn maschinelle Agenten tatsächlich dereinst mit Autonomie ausgestattet seien und Aufgaben für uns erledigen würden. Dann wäre vielleicht ein Austausch unter den KI-Agenten über «Best Practices sinnvoll» (Erfolgsrezepte, Anmerkung der Redaktion).
Aktuell sei Moltbook noch eine Spielwiese, und «wir sollten uns davor hüten, dort zu viel hineinzuinterpretieren».
Stadelmann über Musks Singularitäts-Theorie: «Blödsinn»
Inwiefern sind die Interaktionen zwischen den KI-Agenten tatsächlich eigenständig? Oder werden sie nur durch Menschen initiiert, gesteuert und beeinflusst?
Stadelmann sagt dazu: «Meine Annahme wäre, dass quantitativ das meiste Bots sind.» Der KI-Experte ist jedoch «gerade bei den grössten ‹Aufregern› skeptisch». Also ob da nicht doch ein Mensch dahintersteckt.
Zu Elon Musks Singularitäts-Theorie sagt Stadelmann: «Das ist Blödsinn. Die Art KI-Modelle hinter den OpenClaw-Bots sind von Ihrer Natur her hochdimensionale Wahrscheinlichkeitsdichtefunktionen», erklärt der KI-Experte.
Diese würden dann «von einer Sequenz von Worten auf das wahrscheinlich nächste Wort schliessen.»
Diese seien quasi mit allen Texten auf dem Internet trainiert worden. Also auch mit: «Unmengen von Science-Fiction-Groschenromanen, in denen die KI die Welt übernimmt, Bewusstsein erlangt und so weiter», erklärt Stadelmann.
OpenClaw-Bots sind eine «sicherheitstechnische Katastrophe»
Gleichzeitig zeigten gemäss dem KI-Experten erste Studien, dass die Diskussionsfolgen auf Moltbook «hochgradig redundant sind». Auf dem KI-Netzwerk gebe es rund 30 bis 40 Prozent Textgleichheit, während es bei Menschen zwei bis drei Prozent seien.
Zu den Sicherheitsrisiken sagt Stadelmann: «OpenClaw-Bots sind eine sicherheitstechnische Katastrophe für ihre Anwender. Das ist genau einer der Gründe, warum echte Anwendungen solcher Agenten vielleicht noch Jahre entfernt in der Zukunft sind.»
Die Erzählungen von der eigenen Gesellschaft, in der KI ein Bewusstsein entwickelt und so weiter, glaubt der KI-Experte nicht. Diese Erzählungen «werden ganz bewusst von sehr reichweitenstarken Meinungsführern gestreut, da es gut für das Geschäft ist. Technisch gibt es kein einziges valables Argument dafür», stellt Stadelmann klar.
