Interner der Berner Fachhochschule teilt heikle Daten via Chat GPT
Auf einem Chat-GPT-Konto der Berner Fachhochschule landete ein Arbeitszeugnis. Dieses war ersichtlich für alle Mitarbeitenden eines Instituts.
Das Wichtigste in Kürze
- «Haarsträubend» ist die KI-Panne laut Digital-Rechtsexperte Martin Steiger.
- Ein Mitarbeiter der BFH bearbeitet ein Arbeitszeugnis in einem offenen KI-Konto.
- «Wir ziehen daraus die nötigen Lehren», heisst es bei der Hochschule.
Der Bachelor-Studiengang «Digital Business & AI» an der Berner Fachhochschule (BFH) bildet die Studierenden zu KI-Profis aus. So lernen sie, künstliche Intelligenz in der Wirtschaft anzuwenden. Intern ist der Umgang mit KI jedoch aus dem Ruder gelaufen.
Darauf aufmerksam gemacht wurde Martin Steiger, Anwalt für Recht im digitalen Raum. Von einem «haarsträubenden Beispiel aus dem Umfeld einer schweizerischen Hochschule» berichtet er in seinem Newsletter.
Seinen Schilderungen zufolge nutzt ein Institut der BFH Chat GPT für seine zahlreichen Mitarbeitenden. Dies jedoch nicht mit einem Firmenaccount, sondern mit einem gemeinsamen Nutzerkonto, das ein einzelner Mitarbeiter kontrolliert.
«Arbeiten von Studierenden hochgeladen»
Wie Steiger erfahren hat, wurde in mindestens einem Fall ein Arbeitszeugnis von einer Person bearbeitet. Dieses sei für alle Nutzerinnen und Nutzer sichtbar gewesen.
«Ferner wurden im gleichen Rahmen mit Chat GPT die Arbeiten von Studierenden hochgeladen und bewertet … »
Auch soll das KI-Training mit den Nutzerdaten nicht deaktiviert worden sein. «Wie es unabhängig vom Abonnement möglich wäre.»
Das Nutzerkonto soll ein einzelner Mitarbeiter kontrollieren. Das Abo dafür habe er privat bezahlt und als Spesen abgerechnet.
Bei diesem Abo bietet Chat GPT keinen Auftragsverarbeitungsvertrag. Lediglich die Unternehmensversionen gewährleisten, dass die datenschutzrechtlichen Vorgaben in der Schweiz eingehalten werden.
«Geht niemanden etwas an»
«Organisationen sollten Benutzerkonten nie teilen, auch nicht im Fall von Chat GPT», warnt Martin Steiger gegenüber Nau.ch. Teilten verschiedene Angestellte ein Konto dennoch, hätten Personendaten oder sonst schützenswerte Daten dort nichts verloren.
Das Vorgehen hält Steiger nicht mit dem anwendbaren Arbeits-, Bildungs- und Datenschutzrecht für vereinbar. «Das Arbeitszeugnis der Kollegen geht nur Personen mit HR-Verantwortung etwas an.»
Thomas Fischer, Leiter Stab und Recht des Amts für Informatik und Organisation des Kantons Bern, stellte die Bedingungen klar. «In öffentliche KI-Systeme dürfen keine Informationen eingegeben werden, die nicht öffentlich sind.» Dies hält das Personalmagazin der bernischen Kantonsverwaltung fest.
«Zugang zum Account deaktiviert»
Die Berner Fachhochschule bestätigt den Vorfall. «Nach aktuellem Kenntnisstand wurde ein Arbeitszeugnis in Chat GPT eingegeben», sagt Mediensprecher Sebastian Hueber. Diese Praxis sei mit den Datenschutz- und Informationssicherheitsgrundsätzen der BFH nicht vereinbar.
«Wir ziehen daraus die nötigen Lehren und schärfen unsere internen Richtlinien und Sensibilisierungsmassnahmen weiter.»
Die interne Fachstelle Datenschutz sowie der Chief Information Security Officer seien umgehend aktiv geworden. «Der Zugang zum betroffenen Chat-GPT-Account wurde beschränkt, weiterführende Abklärungen sind derzeit im Gange.»
Personelle Konsequenzen möglich
Auch bestätigt die BFH, dass Chat GPT für die Bewertung zum Einsatz kam. «In einem Fall hat Chat GPT Bewertungsvorschläge für eine Gruppenarbeit unterbreitet», sagt Hueber.
Es habe sich hierbei um einen Versuch zur Klärung gehandelt, inwieweit eine Bewertung mittels KI überhaupt möglich sei. «Dabei hat sich Chat GPT als unbrauchbar erwiesen und der Output von Chat GPT wurde nicht verwendet.»
Die KI-Panne könnte auch personelle Konsequenzen haben. «Die BFH prüft bei solchen Vorfällen auch mögliche personalrechtliche Massnahmen», sagt Hueber. Grundsätzlich sei für die BFH zentral, dass KI-Tools korrekt und verantwortungsvoll eingesetzt würden.
Studierende müssten informiert werden
KI-Systeme können laut Hueber unterstützend eingesetzt werden, fungieren jedoch nie als alleinige Bewertungsinstanz. Zum Beispiel können Dozierende die Tools bei formalen Kriterien wie der Prüfung von Rechtschreibung oder der Plagiatserkennung nutzen.
Die Studierenden müssten klar und rechtzeitig über den Einsatz von KI-Tools im Bewertungsprozess informiert werden.
Der Bildungs- und Kulturdirektion des Kantons Bern (BKD) war der Vorfall bisher nicht bekannt. Die BFH werde die BKD über das Resultat ihrer internen Abklärung informieren, teilt die Behörde mit.
Den Namen des betroffenen Instituts gibt die BFH aus Gründen des Persönlichkeitsschutzes nicht bekannt.
