EU reagiert auf Deepfake-Skandale mit KI-Verbot
Der Skandal hat die EU aufgerüttelt: KI-Anwendungen zum Erstellen sexualisierter Deepfakes sollen künftig verboten sein.
Der Skandal rund um sexualisierte Deepfakes zwingt die EU zum Handeln – entsprechende KI-Anwendungen sollen künftig verboten sein. Wie der «Tagesspiegel» berichtet, einigten sich Vertreter der Mitgliedstaaten und des Europäischen Parlaments auf eine entsprechende Anpassung des KI-Gesetzes.
Die Einigung wurde von der zyprischen EU-Ratspräsidentschaft bekanntgegeben und muss noch formell vom Plenum und dem Rat bestätigt werden. In der Regel gilt dies laut dem «Tagesspiegel» als blosse Formalie.
Das neue Verbot soll explizit auch KI-generierte Darstellungen von sexuellem Kindesmissbrauch einschliessen. Die FDP-Europaabgeordnete Svenja Hahn begrüsste die Einigung mit den Worten: «KI darf kein Werkzeug für sexualisierte Gewalt gegen Kinder sein.»
Skandal um Grok brachte das Thema auf EU-Ebene
Auslöser für die verstärkte Aufmerksamkeit war ein Skandal um den KI-Chatbot Grok des Unternehmens von Elon Musk. Wie die «Tiroler Tageszeitung» berichtet, nutzten Userinnen und User die KI wiederholt, um Frauen in Fotos virtuell zu entkleiden.
An Silvester entschuldigte sich der Chatbot selbst dafür, ein Bild zweier Teenager «in sexualisierten Outfits» erstellt zu haben. Der Vorfall löste laut dem «Tagesspiegel» in Europa eine breite politische Debatte über digitale Gewalt aus.
Ab 2. Dezember 2026 soll das EU-KI-Amt das neue Verbot durchsetzen, wie die «Tiroler Tageszeitung» festhält. Das Amt wurde vor zwei Jahren eigens für solche Aufgaben gegründet.
Verbot zielt auf das Werkzeug, nicht nur die Tat
Das neue Verbot in der KI-Verordnung wechselt die Perspektive, wie die «Stimme» erklärt. Nicht mehr nur die Tat soll bestraft, sondern das Werkzeug selbst verboten werden.
Verhandlungsteilnehmer betonten laut dem «Tagesspiegel», dass das Verbot die Bildbearbeitung nicht übermässig einschränken solle.
Im Gesetz soll daher klar definiert werden, was als sexualisierter Inhalt gilt und was nicht. Nicht-einvernehmliche Bikini-Bilder, die im Skandal um Grok auf X verbreitet wurden, könnten demnach weiterhin erlaubt bleiben.
