Nackt-Deepfake: «Nur Frage der Zeit», bis es Schweiz-Promi passiert
Grünen-Nationalrat Raphhaël Mahaim fordert vom Bundesrat, endlich zu handeln. Sexualisierte Deepfakes sollen verboten und entsprechende Apps gesperrt werden.
Das Wichtigste in Kürze
- Sexualisierte Deepfakes machen Schlagzeilen, zuletzt wegen Moderatorin Collien Fernandes.
- Der Bundesrat wollte bis jetzt keine Gesetzesanpassungen in Angriff nehmen.
- Nun hat Nationalrat Raphaël Mahaim eine Motion eingereicht. Die Chancen stünden gut.
- Es sei nur eine Frage der Zeit, bis es auch mit einer Schweizer Persönlichkeit passiere.
Sexualisierte Deepfakes, also von KI generierte Bilder oder Videos real existierender Personen mit sexuellem Bezug: Sie sind aktuell in den Schlagzeilen wegen des Skandals um Moderatorin Collien Fernandes.
Ihr Ex-Mann Christian Ulmen hat über Jahre hinweg sexualisierte Deepfakes von Fernandes erzeugt und verbreitet. Fernandes hat Ulmen nun angezeigt.
Bundesrat soll Schweizer Gesetze verschärfen
In der Schweiz ist die entsprechende Gesetzeslage lückenhaft und wenig streng. Eine Motion, die dies ändern wollte, scheiterte vor knapp einem Jahr im Nationalrat.
Nun hat der damalige Motionär Raphaël Mahaim (GPS/VD) aber just Ende letzter Woche nachgedoppelt. «Es besteht Handlungsbedarf und der Bundesrat muss das anerkennen», sagt er zu Nau.ch.
Der Bundesrat hat sich bisher auf den Standpunkt gestellt, man wolle nicht der generellen KI-Regulierung vorgreifen. Doch unter den heutigen Umständen sei eine solche Haltung nicht mehr vertretbar, findet Mahaim.
«Es ist nicht mehr möglich, länger zuzuwarten.» Denn der Prozess bis zu einem möglichen Gesetzesentwurf des Bundesrats werde Jahre dauern.
Die Konsequenzen auf die Persönlichkeitsrechte durch entsprechende Apps und durch KI-Tools wie «Grok» seien sehr schwerwiegend. «Wenn plötzlich ein Nacktbild einer jungen Frau im Internet überall zu finden ist, dann ist das dramatisch.» Wegen des Skandals um sexualisierte KI-Bilder des Chatbots «Grok» auf «X» ermittelt derzeit unter anderem die EU.
Schweiz könnte Zugang sperren
Mit seiner Motion fordert Mahaim nun explizite Gesetze und eine Prüfinstanz. Die KI-Anbieter sollen verpflichtet werden, Risiko- und Schadensabschätzungen hinsichtlich sexualisierter Deepfakes vorzunehmen. Entsprechend sollen sie dann Schutzmassnahmen ergreifen.
Doch wie sollen diese Gesetze durchgesetzt werden – etwa durch Sperrung entsprechender Apps und Plattformen aus der Schweiz heraus? «Genau», sagt Mahaim, «sperren oder strafrechtlich sanktionieren.»
Der beste Vergleich sei derjenige mit Kinderpornografie. Auch dort werde gesperrt, wenn ein Anbieter solche aufschalte, und es gebe strafrechtliche Folgen.
Demnächst auch hierzulande: «Nur eine Frage der Zeit»
Mahaim ist zuversichtlich, dass seine neue Motion bessere Chancen hat im Parlament. Dies zeige allein schon die Tatsache, dass es nun auch Unterschriften aus dem bürgerlichen Lager gebe.
Hängig – und vom Bundesrat abgelehnt – ist auch noch Mahaims Motion für ein Verbot von Nudify-Apps. Damit können mithilfe von KI aus normalen Fotos gefälschte Nacktbilder kreiert werden. Eine gleichlautende Motion hat auch SVP-Nationalrätin Nina Fehr Düsel eingereicht.
Und: Im Gegensatz zu 2023 sei das Phänomen der sexualisierten Deepfakes nun auch breiter bekannt. «Vor drei Jahren hatten fast alle Ratskolleginnen noch nicht davon gehört gehabt.»
Jetzt aber wird es diskutiert. «Ich sage es mal so: Wenn ein Kollege oder eine Kollegin aus dem Rat selbst ein Nacktbild von sich im Internet sieht, dann wird das sofort kippen. Es ist nur eine Frage der Zeit, bis es auch mit Schweizer Persönlichkeiten passiert.»
