Influencerin erzählt: «Mein Körper war plötzlich auf Pornoseiten!»
Webseiten, die mit KI Nacktbilder von Frauen erstellen, erleben gerade einen Boom. Eine Influencerin erzählt, wie ihre Fotos missbraucht wurden.
00:00 / 00:00
Das Wichtigste in Kürze
- Influencerin Mina erzählt von ihrem traumatischen Erlebnis.
- Ihre Instagram-Bilder wurden mit KI verfälscht und auf Pornoseiten hochgeladen.
- Das ist mit den heutigen Technologien einfach zu machen – und bringt Gefahren mit sich.
Die 21-jährige Influencerin Mina Camira postet auf Instagram feministische Inhalte und Outfit-Videos. Jetzt wendet sie sich aber mit einer Warnung an ihre Community: «Passt auf euch auf», sagt sie mit verquollenen Augen in einem Video.
Der Grund: Ihre Fotos wurden ohne ihr Einverständnis auf Pornoseiten hochgeladen. Die Bilder, welche sie auf Instagram gepostet hatte, wurden mit künstlicher Intelligenz bearbeitet. Ihre Kleider wurden wegretouchiert: Auf den Pornoseiten ist Mina nackt.
«Deepnudes» können ohne grossen Aufwand erzeugt werden
Sie ist völlig fertig: «Ich suche gerade einen neuen Job und bewerbe mich an Arbeitsstellen. Und wenn die mich googeln, kommen als erstes Pornoseiten! Ich wollte das nicht!»
Im Fall von KI-generierten Nacktbildern spricht man von «Deepnudes».
Franziska Oehmer-Pedrazzi warnt: «Mittlerweile kann selbst eine technisch unerfahrene Person mit geringem Aufwand täuschend echte Bilder anderer Menschen erzeugen.»
Oehmer-Pedrazzi ist Dozentin für Medien- und Kommunikationswissenschaft an der Fachhochschule Graubünden. Ausserdem hat sie das Mileva-Institut für Digitales und Gesellschaft mitgegründet.
Es gibt zahlreiche Internetseiten, die speziell dafür programmiert sind, Nacktbilder von Frauen zu erstellen. Diese Apps und Webseiten verzeichnen ein starkes Wachstum. Das lässt sich der Webseite «klicksafe» entnehmen, die sich für bessere Medienkompetenz einsetzt.
Gefälschte Bilder auf Pornoseiten sind nichts Neues. Was sich mit Deepfake-Technologien jedoch verändert hat, ist die Masse und die einfache Zugänglichkeit. Die Bilder können ohne grossen finanziellen Aufwand und in kürzester Zeit erstellt werden.
Oehmer-Pedrazzi: «Alles, was dafür benötigt wird, sind einige Originalfotos – und davon finden sich auf visuellen Plattformen wie Instagram reichlich.» Es kann also jede Person treffen, von welcher man im Internet Bilder findet.
Was tun, wenn man selber Opfer wird?
Wie sollte man handeln, wenn plötzlich das eigene Gesicht mit einem KI-generierten Körper auf einer Pornoseite landet? «Man sollte aktiv dagegen vorgehen», rät Oehmer-Pedrazzi bei Nau.ch. «Etwa durch das Melden des Beitrages oder durch eine Anzeige gegen die verantwortliche Person, falls diese ausfindig gemacht werden kann.»
Für Betroffene sei es aber oft schwierig, den Urheber der manipulierten Bilder zu identifizieren, erklärt die Dozentin.
Mina hat bei Google eine Beschwerde eingereicht. Laut Google verstosse allerdings «nichts gegen die Richtlinien», erklärt sie in ihrem Video. Ob sich mittlerweile etwas getan hat, ist unklar.
Google bietet ein Formular, mit welchem Nutzerinnen und Nutzer die Entfernung entsprechender Inhalte verlangen können. Die Strafbarkeit ist jedoch nicht eindeutig geregelt. Nach Juristin Josephine Ballon ist die Erstellung solcher KI-basierten Inhalte noch nicht strafbar – die Verbreitung hingegen schon.
Grosse Folgen im Privatleben
«In solchen Fällen müssen Plattformen wie Google oder Meta stärker in die Verantwortung genommen werden», sagt Oehmer-Pedrazzi.
Betroffen von den Nackt-Deepfakes sind vor allem Frauen und Mädchen. Oehmer-Pedrazzi: «Das kann für einzelne Betroffene – vor allem junge Erwachsene – gravierende soziale, berufliche oder psychische Folgen haben.»
