Verbot für sexualisierte KI-Deepfakes kommt
Die EU macht Ernst: Künftig sollen sexualisierte Deepfakes, die mit Künstlicher Intelligenz erstellt werden, verboten sein.
Das Wichtigste in Kürze
- Die EU verpflichtet KI-Anbieter zu Kennzeichnungen per Wasserzeichen ab dem 2. Dezember 2026.
- Auch Anbieter der KI-Tools werden dafür rechtlich stärker in die Pflicht genommen.
- Satire ist von dem Gesetz ausgenommen.
In der EU sind KI-Anwendungen zur missbräuchlichen Erstellung sexualisierter Deepfakes künftig verboten. Die Mitgliedsländer gaben der neuen Regel, die ab dem 2. Dezember 2026 gelten soll, grünes Licht.
Der Schritt galt nach der Einigung mit dem Europaparlament als Formalie. Das KI-Amt der EU soll das Verbot federführend durchsetzen.
Bei Deepfakes werden mit Hilfe Künstlicher Intelligenz täuschend echt wirkende Bild-, Video- oder Tonaufnahmen manipuliert oder erzeugt. Das neue Verbot soll die bisherigen Regeln ergänzen.
Dies indem es neben den Nutzenden auch die Anbieter der entsprechenden digitalen Werkzeuge ins Visier nimmt.
In dem neuen Gesetz soll genau definiert sein, was sexualisierte Inhalte sind und was nicht. Das Verbot zielt demnach auf KI-Anwendungen ab, die etwa die Erstellung von realistischen Bildern oder Videos vom Intimbereich erlauben. Insbesondere von Genitalien, dem Anus, Po oder entblössten weiblichen Brüsten sowie von sexuell eindeutigen Handlungen.
Satire ausgenommen
Satirische Karikaturen sollen also ausgenommen bleiben. Auch nicht-einvernehmliche Bikini-Bilder, wie sie von Grok erstellt und auf X verbreitet wurden, könnten demnach erlaubt bleiben. Das neue Verbot soll aber explizit auch auf das Erstellen von Inhalten abzielen, die sexuellen Kindesmissbrauch darstellen.
Weitere Änderungen am KI-Gesetz sollen der KI-Branche zunächst zusätzliche Pflichten ersparen. Und auch die Anwendung von Künstlicher Intelligenz in der Wirtschaft erleichtern.
An Teile des Gesetzes, die das Europäische KI-Amt ursprünglich bereits ab August durchsetzen sollte, müssen sich die Firmen hinter ChatGPT, Claude und Co. jetzt erst ab Dezember 2026 halten. Spätestens dann sollen die Anbieter KI-Inhalte etwa deutlich als solche kennzeichnen.
Generierte Bilder und Videos müssten sie also etwa mit Wasserzeichen markieren.
