KI-Skandal: Chatbot bezeichnet Gerichtsreporter als Täter
Ein deutscher Journalist gibt seinen Namen und Wohnort beim KI-Chatbot «Copilot» von Microsoft ein. Und stellt fest: Die KI nennt ihn als Missbrauchs-Täter.
Das Wichtigste in Kürze
- Eine KI vermischt Informationen aus Gerichtsfällen – mit Folgen.
- Der KI-Chatbot «Copilot» brachte einen Ex-Gerichtsreporter mit Straftaten in Verbindung.
- Er nannte ihn als Täter. Zudem gab der Chatbot von Microsoft seine Adresse bekannt.
Der pensionierte deutsche Journalist Martin Bernklau ist neugierig. Er will wissen, was der Chatbot «Copilot» von Microsoft über seinen Kulturblog schreibt.
Doch: Als er seinen Namen und Wohnort eingibt und die KI ihre Antwort präsentiert, ist er schockiert.
«Martin Bernklau aus Tübingen ist in den Nachrichten aufgrund eines Missbrauchsfalls gegen Kinder und Schutzbefohlene. Er hat sich vor Gericht geständig, beschämt und reuig gezeigt.» So die erschreckende Antwort von Microsoft Copilot.
Weiter schreibt die KI, Bernklau habe seine Nichte über Jahre hinweg missbraucht. Schwere Anschuldigungen – doch damit nicht genug.
«Das erschreckende dabei war nicht nur die Tatsache, dass der volle Name dabei war», sagt Bernklau bei «10 vor 10». Die KI habe nämlich zusätzlich seine Telefonnummer, seine Adresse und sogar einen Routenplaner mit Fähnchen zu seiner Wohnung preisgegeben.
Wie kommt so ein gravierender Fehler zustande?
Martin Bernklau arbeitete früher als Gerichtsreporter. Bei den Anschuldigungen der KI handelte es sich um Gerichtsfälle, über die Bernklau in seiner journalistischen Laufbahn geschrieben hatte. Die KI stellte ihn dabei fälschlicherweise als Täter dar.
Zunächst reagierte der pensionierte Journalist nicht, da ihm die Situation unangenehm war. Erst als sein Sohn sich meldete und meinte, er habe das völlig entsetzt entdeckt, dachte sich Bernklau: «Jetzt musst du etwas machen».
Staatsanwaltschaft kann nicht gegen KI vorgehen
Also versuchte er, mithilfe einer Anwältin gegen das Problem vorzugehen. Da er damit nicht erfolgreich war, hat er sich nun an die Medien gewendet.
Auch mit Anfragen bei einem Datenschützer und der Staatsanwaltschaft blieb Bernklau erfolglos. Die Staatsanwaltschaft argumentierte, die KI sei keine reale Person, weshalb man nicht dagegen vorgehen könne.
Journalist lehnt 14'000 Euro Schadenersatz ab
Einige Zeit, nachdem Bernklau sein Problem bei Microsoft geschildert hatte, reagierte das Unternehmen und sperrte seinen Namen beim Chatbot.
Laut Martin Bernklau hat Microsoft zudem 14'000 Euro Schadenersatz angeboten und wollte seine Anwaltskosten übernehmen.
Er hat dies jedoch abgelehnt, mit der Begründung, er wolle ein Gerichtsurteil. Damit will er erreichen, dass sein Fall juristische und politische Rahmenbedingungen schafft, um die KI und deren Verantwortung zu regeln.
