Nationalrat will Anbieter von generativer KI an die Leine nehmen
Der Nationalrat will Anbieter von generativer KI an die Leine nehmen. KI-Anbieter sollen für den nötigen Schutz sorgen müssen, wenn ihre Tools sexualisierte Deepfake-Inhalte herstellen können, Eine Prüfinstanz soll, falls nötig, Sanktionen aussprechen können.
Oppositionslos nahm er am Dienstag eine Motion von Raphaël Mahaim (Grüne/VD) an. Mit dem Auftrag ist der Bundesrat einverstanden. Untermauert wird die Forderung mit dem KI-Tool «Grok», das in die Plattform X integriert ist. Auch der Bundesrat ist mit dem Vorstoss einverstanden. Nun hat noch der Ständerat zu entscheiden.
Dieses habe Bilder von Frauen und Kindern so abgeändert, dass diese äusserst knapp gekleidet aufreizend posiert hätten, machte Mahaim geltend. Derartige Deepfakes könnten besonders für Kinder potenziell schwerwiegende, dauerhafte Folgen haben. Eine nachträgliche strafrechtliche Verfolgung solcher Verstösse reiche nicht.
Es gibt nie einen Grund, eine Person ohne deren Zustimmung zu entkleiden, sowohl in der realen als auch in der virtuellen Welt, sagte Mahaim im Rat. «Mit zwei Klicks könne ein Video mit sexuellem Charakter erstellt und verbreitet werden.» Jeder und jede sei potenziell bedroht. Deshalb brauche es Schutz.
In der Schweiz könnten Urheber von Deep Fakes schon heute sanktioniert werden, sagte Justizminister Beat Jans, aber erst, wenn der Verstoss bereits stattgefunden habe. Der Bundesrat wolle die KI-Konventionen des Europarates ratifizieren und plane dazu eine Vernehmlassung. Dort werde das Anliegen aufgegriffen.
