«Neue Dimension»: Lehrer warnen vor Mobbing durch KI

Künstliche Intelligenz bietet neue Chancen – birgt aber auch viele Gefahren. Jetzt warnt der Lehrerverband vor Auswirkungen in der Schule. Unter anderem könnte die Technik für Mobbing von Mitschülerinnen und Mitschülern missbraucht werden.

Silke Müller, eine deutsche Schulleiterin, schlägt in einem Interview deswegen Alarm. Gegenüber dem «Spiegel» warnt sie: «Cybermobbing wird durch KI eine ganz neue Form annehmen.» Sie hätten schon Fälle von gefälschten Nacktbildern oder gefälschten Sprachnachrichten gehabt, so Müller.

Und die Entwicklung geht weiter. Müllers düsterer Blick in die Zukunft: «Mir wird angst und bange, wenn ich daran denke, was noch alles kommen könnte.»

Auch in der Schweiz nimmt man die mögliche Gefahr des KI-unterstützten Mobbings ernst. Beat A. Schwendimann, Leiter Pädagogik beim Schweizer Lehrpersonenverband LCH, sagt gegenüber Nau.ch: «KI kann in der Tat das Mobbing in Schulen auf neue und komplexere Weisen beeinflussen.»

Durch die neue Technologie könnten schädliche oder diffamierende Inhalte erstellt und verbreitet werden. Beispielsweise seien das gefälschte Bilder, Nachrichten oder Videos, sagt Schwendimann. «Dies kann zu einer neuen Dimension des Mobbings führen, da solche Inhalte schnell erstellt und anonym verbreitet werden können.»

KI-Mobbing kann schwerwiegende psychologische Folgen haben. Schwendimann erklärt: «Die Fähigkeit, zwischen echten und gefälschten Inhalten zu unterscheiden, ist wichtiger denn je, wird aber zunehmend schwieriger. Gleichzeitig bleibt die emotionale Wirkung von Mobbinginhalten hoch, unabhängig davon, ob sie als authentisch erkannt werden oder nicht.»

Doch nicht nur in Sachen Mobbing ist KI eine Gefahr. Gefälschte pornografische Inhalte können laut Schwendimann auch für Erpressung oder Sextortion missbraucht werden.

Wie verbreitet diese Problematik an Schweizer Schulen ist, ist schwer zu sagen. Schwendimann erklärt: «Es gibt noch keine breiten empirischen Studien, die sich speziell mit KI-Mobbing in der Schweiz befassen. Der Einsatz von KI im Bildungskontext und dessen Missbrauch für Mobbing ist noch ein relativ neues Phänomen.»

Auch im Kanton Zürich sieht man mit der zunehmenden Verbreitung der KI «eine neue Dimension» des Mobbings. Schon mit den sozialen Medien habe man eine neue Stufe erreicht, heisst es. Die Bildungsdirektion hat bisher zwar keine Kenntnis von konkreten Fällen. Allerdings würden die Schulen Mobbing-Fälle sowieso grundsätzlich selber behandeln.

Ähnlich klingt es in Bern, in St. Gallen und im Aargau. Auch den dortigen Bildungsdirektionen sind bisher keine solchen Fälle bekannt. Die Angst aber bleibt.

Doch was macht diese «neue Dimension» genau aus? Digital-Experte Mike Schwede erklärt gegenüber Nau.ch, weshalb KI so grosse Veränderungen mit sich bringt.

Er nennt ein Beispiel: «Bis jetzt konnte man bestehendes Material nehmen. Vielleicht eine Mitschülerin, die sich völlig daneben benommen hat und nackt an einer Party war, weil sie betrunken war.» Also bevor die KI ins Spiel kam, bestand vor allem die Gefahr, dass irgendwo eine Kamera läuft und mitfilmt.

Diese Gefahr besteht natürlich immer noch, aber als «neue Dimension» kommt laut Schwede dazu: «Man muss noch nicht einmal an der Party oder an einem bestimmten Ort gewesen sein.» Denn die Bilder können mittlerweile gefälscht werden – und das wird mit der KI immer einfacher. Gleiches gilt beispielsweise für Audio-Aufnahmen, die Aussagen beinhalten, die man gar nie gemacht hat.

Konkret gebe es diverse Online-Tools, mit denen man Inhalte – beispielsweise Nacktbilder – erstellen kann. Es reicht etwa, Fotos der Person hochzuladen und die KI berechnet dann die Version ohne Kleider. Sie macht also Fake-Nacktbilder. Ähnlich simpel ist das Fälschen von Audio- oder Videoinhalten.

Schwede ist besorgt: «Das hat es vorher nicht gegeben oder man konnte es nur schwer machen, mit manueller Arbeit. Heutzutage kann das mit den entsprechenden Tools jeder 10-Jährige innerhalb von Minuten machen.» Hinzu kommt: «Auch wenn man nach einer Woche herausfindet, dass das Video gefakt ist, ist das Geschirr schon zerschlagen.»

Der Experte nennt zwei Aspekte, wie man gegen KI-Mobbing vorgehen kann. Einerseits müssen Schulen und Eltern die Kinder für das Thema sensibilisieren. Der Nachwuchs sollte unter anderem lernen, wie man gefälschtes Material erkennen kann.

Andererseits könnte man auch darauf achten, dass möglichst wenige Inhalte von einem im Netz existieren. «Wenn es keine Stimmen oder Fotos von mir im Internet gibt, kann man das auch nicht nachfälschen», rät Schwede.

Er betont aber auch, dass man sich fast nicht davor schützen kann – denn: «Jemand kann natürlich schnell nebendran 15 Sekunden die Stimme aufnehmen und dann hat er genügend Daten.»