Informationskompetenz: Generative KI und Desinformation

In der aktuellen Nachrichtenflut ist es aufgrund der Häufigkeit von Fehlinformationen für die Leser wichtig, Vorsicht walten zu lassen. Die schiere Menge hat eine Lage geschaffen, in der es schwieriger geworden ist, Fakten von Fiktion zu unterscheiden. Umso wichtiger ist die Informationskompetenz der Konsumenten.

Vor dem Hintergrund der aktuellen Konflikte finden, vor allem KI generierte Bilder und Videos – sogenannte Deepfakes – weite Verbreitung. Insbesondere im Nahost-Konflikt erleben wir, wie generative KI immer mehr als zentrales Instrument der öffentlichen Meinungsbildung eingesetzt wird.

Wenn neue Inhalte von Künstlicher Intelligenz (KI) erstellt werden, spricht man von generativer KI. Dabei sammelt die KI bereits vorhandene Daten, lernt daraus und generiert Daten mit ähnlichen Eigenschaften. Das können Texte, Bilder, Videos, Musik oder Stimmen sein. Die Technologie basiert auf neuronalen Netzwerken.

Im Kontext von Textgeneratoren wie GPT-3 (Generative Pre-trained Transformer 3) bedeutet generative KI, dass das System in der Lage ist, auf Basis der eingegebenen Informationen und des gelernten Wissens neue Texte zu erzeugen.

Das Potenzial dieser Technologie ist immens, aber gleichzeitig birgt sie auch Herausforderungen, vor allem bezüglich der Vertrauenswürdigkeit von generierten Inhalten. Es ist allgemein bekannt, dass tendenziös trainierte KI Vorurteile und Voreingenommenheit bis hin zur Diskriminierung von Menschengruppen reproduzieren kann.

Seit der Markteinführung der KI Chat-GPT von Open AI im November 2022 tauchen immer mehr KI-generierte Nachrichteninhalte im Internet auf.

Kürzlich ist News-GPT online gegangen. Es ist das erste Nachrichtenportal, dessen Inhalte ausschliesslich von generativer KI ausgewählt, recherchiert, produziert und publiziert werden. Kein anderes publizistisches KI-Projekt eliminiert den Faktor Mensch konsequenter.

News Guard hat hunderte Nachrichtenquellen identifiziert, die wenig bis gar keine menschliche Kontrolle haben. Diese verbreiten nachweislich fehlerhafte Geschichten. Die «Washington Post» warnte kürzlich davor, dass diese Plattformen potenzielle Desinformations-Superspreader sein können.

Die Erkennung von KI-generierten Inhalten bringt eine Reihe von Herausforderungen mit sich. In einigen Fällen weist das verdächtige Filmmaterial keine offensichtlichen Anzeichen einer KI-Manipulation auf. Es ist schwierig, zwischen echten und manipulierten Inhalten zu unterscheiden.

Sich bei der Erkennung digitaler Manipulationen ausschliesslich auf KI-Erkennungstools zu verlassen, ist zudem ein heikles Unterfangen. Diese Tools erweisen sich oft als unzuverlässig und diagnostizieren gelegentlich Bilder und Videos falsch. Eine menschliche Kontrolle ist bisher unabdingbar.

Angesichts dieser Herausforderungen erforschen Initiativen wie die «Coalition for Content Provenance and Authenticity» in Zusammenarbeit mit Unternehmen wie Google neue Strategien. Dabei will man die Herkunft und Geschichte von Mediendateien offenlegen. Auch wenn diese Lösungen nicht ohne Mängel sind, verspricht man sich davon, das Vertrauen in die Qualität der Inhalte wiederherzustellen.

Das wichtigste zur Stärkung der Informationskompetenz bleiben vorderhand die Kenntnisse über die Manipulationstechniken, die zum Einsatz kommen. Über diese Techniken haben wir hier bereits berichtet. Dazu gehört zum Beispiel der Einsatz von Religion zur psychologischen Manipulation oder der Einsatz von Angstmacherei. Es ist wichtig, sich dieser Techniken bewusst zu sein.