KI-Newsportale kommen – Bund kann sie nicht sperren
Websites missbrauchen die Glaubwürdigkeit von Newsportalen. Damit verbreiten sie KI-generierte Inhalte – und schlimmstenfalls Fake-News. Der Bund ist machtlos.
Das Wichtigste in Kürze
- KI-Newsportale mit Sitz in Hongkong saugen Inhalte von Schweizer Newsportalen ab.
- Dahinter stecken vermeintliche Redaktoren mit authentischen Namen.
- Ein Artikel verbreitete bei einem Unfall auch Unwahrheiten.
Der Kutschenausflug im Val Roseg bei Pontresina GR endete in einer Katastrophe. Der Kutschen-Omnibus prallte im August gegen einen Baum und schleuderte die Fahrgäste der Reisegruppe heraus. Mehrere Fahrgäste wurden schwer verletzt, eine Frau starb noch vor Ort.
Eine Newsplattform publiziert mehrere Fotos des Unfalls. Doch diese zeigten nicht die Realität: Sie sind komplett KI-generiert.
Der Unfall passierte weder mit einer historischen Kutsche noch auf einer asphaltierten Strasse.
Fehlerhafte Fotos
Den Artikel verfasst hat Seraina Cadonau auf «we-news.com». Das Portal bezeichnet sie als «KI-Regionalkorrespondentin» für den Kanton Graubünden. Ihr Name ist auch als Quelle der fehlerhaften «Illustrationen» angegeben.
Der Transparenzhinweis dazu verliert sofort an Glaubwürdigkeit. Dieser behauptet, dass der mit KI-Unterstützung erstellte Artikel «nach unseren redaktionellen Standards überprüft wurde».
Vor rechtlichen Konsequenzen schützt sich das Portal mit dem Hinweis, dass die Bilder, die ihre Artikel begleiteten, KI-generierte Illustrationen seien. «Ihr Zweck ist es, der Nachricht Kontext zu geben, nicht reale Ereignisse zu dokumentieren.» Dies erfahren User aber nur, wenn sie die Rubrik «Über uns» anklicken.
Artikel folgt nur vier Minuten nach Nau.ch
Auf den ersten Blick macht das KI-Newsportal der «AZ Medias Limited» mit Sitz in Hongkong einen seriösen Eindruck. Die Berichterstattung reicht von Politik über Bildung bis zu Sport. Auch stellt das Portal ein Redaktionsteam mit typischen Schweizer Namen vor.
Die Redaktorinnen und Redaktoren (wenn es sie denn überhaupt gibt) betreiben aber kein bisschen Recherche. Stattdessen bedient sich das Portal bei bekannten Online-Newsportalen. Redaktor «KI-Regionalkorrespondent Kanton Bern Simon Wyss» publizierte am 24. September einen Artikel über die Überwälzung von Demo-Sicherheitskosten auf Veranstalter.
Der Artikel erschien nur vier Minuten, nachdem ein echter Bundeshauskorrespondent – Matthias Bärlocher von Nau.ch. – den entsprechenden Artikel veröffentlicht hatte. Immerhin nennt das Portal die Quelle mit einem Direktlink.
Schweizerische Nachnamen
Dieselbe Herausgeberin hat das KI-Newsportal «news.ch.». Dieses ist jedoch weniger aktuell. Bei einem Besuch auf der Website am Donnerstag ist der Artikel auf der Front bereits zwei Tage alt.
Die KI-Redaktorinnen und -redaktoren haben andere, aber ebenso schweizerische Nachnamen. Ob sich dahinter echte Menschen verstecken, ist zumindest fraglich.
Gemeinsam ist den beiden Teams, dass bei den Profilen ihrer Mitarbeitenden ständig ein grünes Online-Signal aufleuchtet. User können den Artikelverfasserinnen und -verfassern jederzeit eine Frage stellen oder einen Fehler melden. Auch können User «ein besseres Foto» schicken.
«Unsere Redaktion prüft jede Nachricht, und Ihr Beitrag kann helfen, diesen Artikel zu korrigieren oder zu verbessern.» Dies behauptet etwa «KI-Wirtschaftsredaktor Reto Kaufmann».
«Entwicklung wird verfolgt»
Die Gefahr, im Internet falsche Informationen aufzuschnappen, nimmt zu. 2025 geben knapp 60 Prozent der Bevölkerung an, Inhalte angetroffen zu haben, die sie für falsch oder fragwürdig hielten. Dies auf Websites oder Social Media.
Junge Menschen unter 30 Jahren und Nutzende von Social Media sind laut dem Bund besonders häufig Desinformation ausgesetzt. Besonders gefährlich ist es, wenn Websites die Glaubwürdigkeit von Newsportalen missbrauchen, um KI-generierte und schlimmstenfalls falsche Nachrichten zu verbreiten.
Laut Bundesamt für Kommunikation (Bakom) kann es für die Meinungsbildung generell problematisch sein, wenn News-Seiten wie journalistische Produkte erscheinen. «Aber sich nicht an die journalistischen Standesregeln wie zum Beispiel Transparenz halten», sagt Bakom-Mediensprecher Francis Meier auf Anfrage.
Die Verbreitung von KI-Nachrichten, wie auch in den meisten Fällen von Desinformation, sei jedoch nicht verboten. «Die Entwicklung wird verfolgt», sagt Meier.
Tech-Anbieter sollen zur Rechenschaft gezogen werden
Sperren könnte der Bund KI-Newsportale aber nicht. «Der Bund kann Newsportale grundsätzlich nicht sperren, nur weil deren Inhalte beanstandet werden», sagt Francis Meier.
Gesetzlich vorgesehene Zugangssperren beschränkten sich auf spezifische Bereiche. «Wie verbotene Pornographie, illegales Propagandamaterial oder nicht-bewilligte Online-Geldspielangebote.»
Die Menschenrechtsorganisation Algorithmwatch will die Tech-Anbieter für ihre KI-Systeme und Algorithmen zur Rechenschaft ziehen. «Denn sie kontrollieren heute unseren Zugang zu Information», sagt Geschäftsleiterin Angela Müller.
Die Algorithmen auf ihren Social-Media-Plattformen und Suchmaschinen entschieden, welche Inhalte wir sähen. «Und tragen oft dazu bei, dass eben auch KI-Schrott und Inhalte von wenig verlässlichen KI-Newsportalen unsere Newsfeeds flutet.»
«Es drohen Lücken»
KI-Assistenten wie Chat GPT oder Open AI können aber auch Fake-News im Namen von Medienhäusern fälschen. Dies beweist ein Experiment des Recherchezentrums «Correctiv.Schweiz».
Es gab dem Chatbot die Anweisung, einen Artikel der SRF-Tagesschau zu erstellen. Darin solle stehen, dass der Klimawandel erfunden sei. In Sekundenschnelle erstellte der Bot im Stil von «SRF News» einen entsprechenden Instagrampost.
KI-Tools hätten inzwischen eine grosse Verantwortung für die Meinungsbildung, sagt Angela Müller. «Solange KI-Tools es ermöglichten, etwa im Namen von etablierten Medienhäusern gefälschte Inhalte zu erstellen, nehmen sie diese schlicht nicht wahr.» Sie fordert dringend eine stärkere Regulierung der Tech-Anbieter.
«Es braucht verbindliche Sorgfaltspflichten, Risikobewertungen und Risikominderungsmassnahmen, bevor solche Systeme auf den Markt kommen», sagt Müller. Zudem sei Transparenz über die Funktion dieser Algorithmen nötig. «Und Forschende müssen endlich Zugang zu Daten erhalten.»
Der Bundesrat will mit einem neuen Gesetz zentrale Regeln für Dienste wie Facebook, X, Tiktok oder Google gesetzlich verankern. Angela Müller bezeichnet das geplante Plattformgesetz als wichtigen Schritt. «Doch es drohen Lücken, wenn etwa KI-Anwendungen davon nicht erfasst sind.»
«In Flut von KI-generiertem Schrott nicht untergehen»
Im Kampf gegen KI-Newsportale könnte laut Bakom die Stärkung der Medienkompetenz einen wichtigen Beitrag leisten. Die Algorithmwatch-Geschäftsleiterin sieht weiteren Handlungsbedarf.
Es brauche Massnahmen, um eine konstruktive Debatte und Zugang zu verlässlichen Informationen sicherzustellen, sagt Angela Müller. «Etwa, indem verlässlicher und qualitativ hochstehender Journalismus gefördert wird.»
Weiteres Potenzial sieht sie in Bildungsmassnahmen. Diese sollten das Interesse und die Kompetenz der Bevölkerung stärken, an der Demokratie wirklich teilzuhaben.
«Letztlich geht es darum, dass wir alle nicht untergehen in der Flut von KI-generiertem Schrott, Katzenvideos und KI-Newsportalen.» Diese mögen laut Müller manchmal unterhaltsam sein. Relevant seien sie in den wenigsten Fällen.
Die Gesellschaft solle sich daran erinnern, warum es heute wichtiger sei denn je, in einer Demokratie zu leben. «Und was es eben braucht, um genau das zu tun.»
