KI-Nacktbilder von Schülerinnen kursieren an spanischer Schule

In Spanien sorgt ein KI-Missbrauch an einer Schule für Furore. Gegen den Willen der Schülerinnen wurden künstlich generierte Nacktbilder verbreitet.

Spanien Polizei — Spanische Polizisten müssen wegen KI-Missbrauch an einer Schule in Almendralejo eingreifen. - Keystone

Das Wichtigste in Kürze

Spanische Schülerinnen fallen von KI-generierten Nacktbildern zum Opfer.
Daraufhin haben sich Mütter gemeinsam gegen Missbrauch künstlicher Intelligenz eingesetzt.
Auch eine Schweizer Expertin fordert strengere Regulierung von KI-Anbietern.

In Spanien sorgt ein Fall von Missbrauch künstlicher Intelligenz (KI) für Aufsehen. Schüler haben mit einer Software Nacktfotos von Mitschülerinnen generiert und verbreitet. Der Vorfall wirft Fragen zur Regulierung der KI auf und könnte auch die Schweiz betreffen.

Nach den Sommerferien entdeckte Isabel (14), dass gefälschte Nacktbilder von ihr und ihren Mitschülerinnen im Umlauf waren. Ein Mitschüler konfrontierte sie damit, wie sie der spanischen Zeitung «El País» berichtete.

Mütter kämpfen gegen Missbrauch an

Die Bilder wurden mit einer kostenlosen Software erstellt, die aus beliebigen Fotos Nacktaufnahmen generieren kann. In vier von fünf Schulen in Almendralejo wurden diese KI-generierten Bilder verbreitet.

Der Vorfall hat in Spanien eine landesweite Debatte über den Missbrauch künstlicher Intelligenz ausgelöst. Die Mütter der betroffenen Mädchen organisierten sich schnell in einer Whatsapp-Gruppe, um dagegen vorzugehen.

Miriam Al Adib, eine Gynäkologin und Mutter eines Opfers, rief in einem viralen Video dazu auf, solche Taten zu melden: «Mädchen, das wird nicht toleriert. Habt keine Angst, solche Taten zu melden», sagte sie.

Nachdem mit KI erstellte Nacktbilder an einer spanischen Schule kursierten, wurde die Polizei eingeschaltet.

Die Mütter der Betroffenen schlossen sich in einer Whatsapp-Gruppe zusammen und gingen gegen den Missbrauch vor.

Künstliche Intelligenz — Um solche Missbräuche in Zukunft zu verhindern, fordern viele Experten strengere Regulierungen der KI.

Expertin fordert Regulierungen für KI-Anbieter

Angela Müller, Schweizer KI-Expertin und Leiterin von Algorithm-Watch Schweiz, betont die Notwendigkeit einer gesetzlichen Sorgfaltspflicht für künstliche Intelligenz. «Nebst der zentralen Frage, wie man diejenigen bestraft, die solche Bilder in Umlauf setzen, bleibt in Fällen wie diesen eine weitere zentrale Frage ungelöst: wie man die Anbieter der Software zur Rechenschaft ziehen kann», sagt sie.

Gegenüber dem «Tages-Anzeiger» warnt Müller auch vor einem ähnlichen Vorfall in der Schweiz. Sie fordert von den Anbietern klare Risikobewertungen und Massnahmen gegen Missbrauch ihrer Technologien.

Sollte KI strenger reguliert werden?

Gesetzliche Regulierung von KI

In mehreren Ländern wird über gesetzliche Schranken für künstliche Intelligenz diskutiert. Die Europäische Union plant ein Gesetz zur Regulierung von KI ab 2026. Ob die Schweiz diesem Beispiel folgen wird, ist noch unklar.

Der Anbieter der missbrauchten Software hat bisher nicht auf Anfragen spanischer Medien reagiert. Auf seiner Website behauptet er jedoch, dass das Programm nur mit Zustimmung des Fotografierten verwendet werden darf.

Die Polizei hat mehrere Urheber und Verbreiter der gefälschten Nacktbilder identifiziert und an lokale Strafbehörden übergeben. Der Vorfall zeigt die dunkle Seite der Technologie und die Notwendigkeit, ihre Nutzung zu regulieren.