Wollen Geld: Fake-Profile nutzen Opferfotos von Crans-Montana aus
Das Netz wird zurzeit mit Crans-Montana-Fake-Profilen überschwemmt. Wer steckt dahinter und wieso ist das gefährlich? KI-Experte Mykola Makhortykh klärt auf.
Das Wichtigste in Kürze
- Posts zur Brand-Katastrophe in Crans-Montana fluten das Netz.
- Doch wer genau hinschaut, erkennt: Fotos werden zweckentfremdet, stimmen gar nicht.
- Diese herauszufiltern, ist aber gar nicht so einfach. Ein Experte warnt.
Selbst News-Deprivierten dürfte der Brand in der Bar «Le Constellation» in Crans-Montana mit seinen verheerenden Folgen nicht entgangen sein.
Die Bilder der 40 Todesopfer, deren trauernden Angehörigen und der Szenen aus der Silvesternacht im Wallis gingen um die Welt.
Auch gut drei Wochen nach der Tragödie reissen die Informationen darüber nicht ab.
Wer sich über Social-Media-Plattformen wie Instagram oder Facebook informiert, tut aber gut daran, Neuigkeiten zu diesem Thema gründlich zu überprüfen.
Denn es tauchen viele Accounts auf, die Bilder und Infos über Crans-Montana missbrauchen.
Experte: Respektlos gegenüber den Opfern
So zeigen etwa auf Facebook diverse Profile einerseits echte Bilder aus der Brandnacht oder von Opfern. Gleichzeitig sind jeweils auch Bilder dabei, die gar nichts mit Crans-Montana zu tun haben, dies aber suggerieren.
KI-Experte Mykola Makhortykh von der Universität Bern bezeichnet dies als «ein gefährliches Phänomen.» Da es jene Personen, die das Foto sehen, in die Irre führt und zur Manipulation genutzt werden kann.
Darüber hinaus sei eine falsche Bild-Zuordnung bei Katastrophen wie diesen respektlos gegenüber den Opfern.
Makhortykh erkennt eine klare Strategie hinter diesem Bild-Mix. Denn: Enthält ein Beitrag künstliche und von Menschenhand geschaffene Inhalte, ist es schwieriger für Mechanismen, die Authentizität des Beitrags zu beurteilen.
In der Folge werden künstliche Inhalte nicht als solche erkannt.
Accounts missbrauchen KI für Geld und politische Zwecke
Doch was ist überhaupt das Ziel solcher Profile und Beiträge? «Es handelt sich hierbei um Accounts, die Social-Media-Inhalte zu Monetarisierungszwecken nutzen wollen», so der KI-Experte. Also, um Geld zu verdienen.
Und auch, um die öffentliche Meinung im politischen Kontext zu manipulieren. «Es gibt Belege dafür, dass KI-generierte Bilder für politische Desinformation und Propaganda verwendet werden. Und ich gehe davon aus, dass dieses Problem immer bedeutender wird.»
Die Strategie sei recht einfach: Die Menschen dahinter nutzen KI, um auf einfache Weise möglichst emotionalen Content zu schaffen. Sei es mit aktuellen Ereignissen wie Crans-Montana oder mit historischen Tragödien wie dem Holocaust.
Die Beiträge müssten möglichst starke Emotionen auslösen, damit sie Aufmerksamkeit erregen und Interaktionen in Form von Aufrufen oder Likes anregen.
«Manchmal besteht das Ziel darin, die Nutzer auf externe Websites weiterzuleiten, die in den Beiträgen mit KI-generierten Inhalten verlinkt sind.»
Ob die Profile selbst KI-generiert oder von Menschen erstellt wurden, sei oft schwer zu sagen. Mykola Makhortykh hält es aber für wahrscheinlicher, dass die Konten von Menschen erstellt werden.
Fake-Beiträge enthalten oft abgenutzte Redewendungen
Die Fake-Beiträge zu Crans-Montana fallen insofern auf, als dass sie oft mit einem emotionalen Zitat beginnen. Das sei typisch für Profile, die KI zur Geldbeschaffung nutzen.
Sie würden oft einem ähnlichen Muster folgen: In der Regel handelt es sich um kurze Texte mit Bild, die oft emotionale, übertriebene oder gar absurde Aussagen enthalten. Auch abgenutzte Redewendungen seien typisch. Denn KI-Modelle würden diese aus Trainingsdaten lernen, sagt Makhortykh.
In der Regel gebe es wenig Interaktion mit den Nutzern dieser Profile und oft wechseln die Themen ziemlich drastisch.
Sie zu stoppen, ist gar nicht so einfach. Denn zurzeit gäbe es kaum eine 100 Prozent zuverlässige KI-Erkennungslösung. Facebook-, Instagram- und WhatsApp-Besitzerin Meta habe im Sommer 2025 erklärt, rund zehn Millionen solcher Konten entfernt zu haben.
Dabei bestehe aber immer auch das Risiko, gleichzeitig Konten legitimer Nutzer zu löschen. Insbesondere, wenn diese KI-generierte Inhalte reposten oder damit experimentieren.
