Musks KI-Chatbot räumt Fehler bei Bildergenerierung ein
Der KI-Chatbot von Twitter hat anzügliche Bilder von Minderjährigen erstellt. Er räumt die Fehler ein, es seien «Schwachstellen» festgestellt worden.
Das Wichtigste in Kürze
- Grok, der KI-Chatbot von Twitter, räumt Fehler ein.
- Er hat auf Anweisung von Usern anzügliche Bilder von Minderjährigen erstellt.
Nach Kritik an der Möglichkeit zur Erstellung freizügiger Bilder von Minderjährigen hat Elon Musks KI-Chatbot Grok Fehler eingeräumt. Es seien «Schwachstellen in unseren Sicherheitsvorkehrungen festgestellt» worden, hiess es in einem Post auf der Plattform X.
Diese sollten nun «mit grösster Dringlichkeit» behoben werden. «Die Verbreitung von kinderpornografischem Material ist illegal und verboten», stellte die künstliche Intelligenz (KI) fest. Der KI-Chatbot hatte mit der Generierung anzüglicher Fotos Empörung bei X-Nutzenden und massive Kritik ausgelöst.
Nutzerinnen und Nutzer können Grok bislang dazu auffordern, freizügige Bilder von Menschen zu generieren. Dabei wurden auch Grenzen überschritten: An Silvester entschuldigte sich der Chatbot dafür, ein Bild von zwei Mädchen im Teenager-Alter «in sexualisierten Outfits» erstellt und geteilt zu haben.
«Es handelte sich um ein Versagen unserer Sicherheitsvorkehrungen. Ich entschuldige mich für alle dadurch entstandenen Schäden», schrieb Grok auf X.
In einem weiteren Post hiess es zur Erläuterung, dass es «vereinzelte» Fälle gegeben habe, «in denen Nutzer KI-generierte Bilder von Minderjährigen in knapper Bekleidung angefordert und erhalten» hätten.
