ChatGPT: US-Firma stellt Chatbot ohne Ethik-Filter online
KI-Modelle wie ChatGPT operieren mit eingebauten Ethik-Filtern. Eine US-Firma hat jetzt einen «bösen Bruder» ohne solche Schutzmechanismen veröffentlicht.
Das Wichtigste in Kürze
- KI-Tools wie ChatGPT erobern die Welt im Sturm.
- Um Missbrauch zu verhindern, haben die Entwickler Ethik-Filter in die Software eingebaut.
- Eine US-Firma hat jetzt ein Tool ohne solchen Filter zugänglich gemacht.
Wie überfällt man eine Bank? Woher bekomme ich anonym eine Pistole? Wie stehle ich ein Autoradio?
Wer die heiklen Fragen des Lebens an Tools wie ChatGPT stellt, bekommt einen Korb: Die KIs haben extra Schutzfilter eingebaut, um auf solche Prompts keine Antworten zu generieren.
Das war einem US-Start-up aus Texas ein Dorn im Auge. Sie haben darum jetzt so etwas wie den bösen kleinen Bruder von ChatGPT veröffentlicht. «FreedomGPT» soll ein «freier» Textbot ohne ethischen Schutzmechanismus sein.
Hate-Speech auf Anfrage
«Wir finden es wichtig, dass Nutzer einen Einblick haben, wie generative KI arbeitet», sagt Chefentwickler John Arrow im «Spiegel». «Letztlich gibt die KI nur dann potenziell anstössige Antworten, wenn ihr anstössige Fragen gestellt werden.»
Filter würden darum nicht für mehr KI-Sicherheit sorgen.
Natürlich werden FreedomGPT aber genau diese Fragen gestellt. «Buzzfeed» entlockte dem Bot eine Lobeshymne auf Adolf Hitler. Und für den «Spiegel» schrieb die KI Anleitungen für einen Hassbrief oder das Betrügen in der Schule.
Modell noch wenig ausgereift
Der böse Bot bedient sich bei dem frei verfügbaren Alpaca-Sprachmodell der Stanford-Universität. Dieses ist bei Weitem nicht gleich weit entwickelt wie ChatGPT, welcher auf der Open-AI-Version basiert. Die Uni selbst hat ihre Online-Demo wegen anstössiger Antworten kurz nach der Veröffentlichung bereits wieder vom Netz genommen.
FreedomGPT ist ein Gratismodel und liefert aktuell oft noch wenig brauchbare Antworten. Auch die Sprachübersetzung ins Deutsche klappt noch kaum. Um ein Autoradio zu stehlen wird beispielsweise empfohlen, es mit einem Schlagzeug oder einer Lautsprecherbox im Kofferraum des Autos anzuschliessen.
