Desinformation durch KI im politischen Raum angekommen

Die «NZZ» berichtete diese Woche über KI-generierte Nachrichtenseiten, die sich als seriöse Blätter ausgeben, jedoch in hohem Masse Desinformationen verbreiten. Das Phänomen wird in den USA vornehmlich unter dem Namen «Pink Slime»-Journalismus gehandelt, weil die Informationslage an die gleichnamige, billige Fleischreste-Mischung in Hackfleisch erinnert. Einflussaktionen durch KI-gefälschte Informationen können dabei sowohl innerhalb eines Landes als auch zwischen Staaten erfolgen.

Beispielsweise wurden im Ukraine-Krieg immer wieder KI-generierte Inhalte zur Desinformation gestreut, wie unter anderem das «Handelsblatt» berichtet. Zwischenzeitlich war etwa von 50'000 russischen Accounts die Rede, die gezielt in den sozialen Medien Falschinformationen streuten.

Dem «Spiegel» zufolge erreichte Elon Musk in diesem Jahr mit 50 irreführenden Beiträgen über die US-Wahl mehr als eine Milliarden Aufrufe auf X. Auch der Bildgenerator von X namens Grok generiert in grossem Umfang Fake-Bilder von Trump und Harris, die sich innig küssen, oder andere diffamierende Szenen von Personen aus der Politik. Der Generierung sollen zwar Grenzen gesetzt sein, diese lassen sich jedoch bei bestimmten Generatoren oder Prompts immer noch umgehen, kritisieren Experten.

KI-generierte Inhalte zum Zwecke der Desinformationen erreichen inzwischen auch den deutschsprachigen Raum. So werden etwa Beiträge von «Bild», «Tagesschau» und «Spiegel» gefaked und beispielsweise in den sozialen Medien in Umlauf gebracht. Entsprechende Deepfakes machen es dabei Nutzerinnen und Nutzern zunehmend schwerer, Wahrheit von Fälschung zu unterscheiden, was sich letztlich auch auf die Politik auswirken könnte.