Taylor Swift: Deepfake-Nacktbilder kursieren im Netz

Diesmal hat es US-Sängerin Taylor Swift erwischt. Mittels künstlicher Intelligenz gefälschte Nacktbilder – ein sogenannter Deepfake – kursierten im Netz auf verschiedenen Social-Media-Plattformen. Eine der KI-Fälschungen erreichte 47 Millionen Aufrufe auf X, bevor das Konto am Donnerstag gesperrt werden konnte. Der «Standard» berichtet davon.

«404 Media» zufolge stammen die Bilder aus einer Telegram-Gruppe, in der sexuell anstössiges Bildmaterial prominenter Frauen geteilt wird. Dort wurden offenbar auch Methoden entwickelt, um die Sicherheitsmassnahmen der verwendeten Software zu umgehen.

Bei Deepfakes handelt es sich um KI-generierte Fälschungen, die sich grundsätzlich als Instrument für Desinformation und Medienmanipulation nutzen lassen. Die Methode kam zeitgleich mit dem Hype um generative KI auf. Beispielsweise können Töne und Videos produziert werden, womit sich etwa Statements von Politikern fälschen lassen. Bilder hingegen lassen sich durch Bildgeneratoren faken: Tom Hanks und Scarlett Johansson etwa mussten sich schon mit gefälschter KI-Werbung auseinandersetzen.

Der Fall von Taylor Swift offenbart einmal mehr die Ohnmacht gegenüber den neuen Technologien und den sozialen Medien. Erniedrigende Inhalte können auch trotz gesetzlicher Regulierung und technologischer Sicherheitsvorkehrungen gepostet und verbreitet werden. Die Moderation entsprechender Inhalte gelingt momentan nur ungenügend.

Allein Swifts Fangemeinde schaffte es am Ende, die Plattform X mit echten Swift-Inhalten zu überfluten. Durch die Aktion «Protect Taylor Swift» konnten die Suchalgorithmen die besagten Inhalte in der Bilderflut nicht mehr auffinden.