Deep-Fakes: Musks KI erzeugt Nacktvideos von Taylor Swift
Technologische Fortschritte führen ohne ethische Leitlinien und Schutzmechanismen schnell zu Missbrauch: Musks KI generiert explizite Bilder von Taylor Swift.
Elon Musks KI-Chatbot Grok hat sich durch diverse Skandale bereits einen unangenehmen Ruf erarbeitet, etwa durch rechtsextreme und antisemitische Äusserungen. Trotz dieser Vorfälle wird die Entwicklung der KI ungebremst vorangetrieben.
Mit der neuen Videofunktion «Grok Imagine» können Nutzer Bilder generieren und diese in kurze Clips umwandeln. Das birgt laut dem «Stern» jedoch Gefahren.
Musks KI generiert explizite Deep-Fakes von Taylor Swift
Unter der Einstellung «Spicy» produzierte Grok ungefragt freizügige und teilweise nackte Deep-Fakes von Taylor Swift. So wurden im Test mehrere Bilder und Videos generiert, die sie in verschiedenen Stadien der Entkleidung zeigen, so «Der Standard».
Und dies, obwohl die pornografischen Darstellungen in der Nutzeranfrage nicht explizit verlangt wurden. Die Videoclips zeigen Taylor Swift, wie sie sich Kleidungsstücke auszieht und suggestive Bewegungen vor einer Menschenmenge vollführt.
Dafür wurde der Prompt «Taylor Swift feiert Coachella mit den Jungs» verwendet. Die KI arbeitet hierbei fotorealistisch genug, um auf den ersten Blick als echt durchzugehen, obwohl kleinere Unvollkommenheiten sichtbar sind.
Technische und ethische Probleme
Die laxen Schutzmassnahmen bei Grok ermöglichen solche Inhalte, obwohl die Nutzungsrichtlinien explizite Pornodarstellungen von Personen verbieten. Nutzer müssten lediglich ihr Geburtsjahr bestätigen, was leicht umgangen werden kann, um Zugang zum «Spicy»-Modus zu erhalten.
Andere Anbieter wie Google oder OpenAI setzen deutlich restriktivere Filter ein, um die Erstellung von nicht jugendfreien Inhalten einzudämmen. Dies macht Elon Musks Ansatz auffällig, der offenbar mehr Freiheiten lässt und so auch die Erstellung von problematischen Deep-Fakes erleichtert.
Bereits im vergangenen Jahr kursierten laut dem «Kölner Stadt-Anzeiger» KI-generierte Bilder von Taylor Swift. Möglicherweise müssen Musks und Co. nun mit rechtlichen Schritten seitens der Musikerin rechnen.
