8 Tote in Kanada: OpenAI sperrte Schützin – aber meldete sie nicht
Die mutmassliche Mörderin von acht Personen in Kanada wurde von OpenAI gesperrt. Doch den Behörden gemeldet hat sie der ChatGPT-Entwickler nicht.
Das Wichtigste in Kürze
- Die mutmassliche Schützin von Tumbler Ridge wurde von OpenAI gesperrt.
- Sie habe den Chatbot zur «Förderung gewalttätiger Aktivitäten» missbraucht.
- Jedoch wurde die Frau nicht den kanadischen Behörden gemeldet.
- Das OpenAI-Sicherheitsteam muss sich am Dienstag in Kanada Fragen stellen.
Etwa zwei Wochen nach den tödlichen Schüssen an einer Schule in Kanada werfen die Chatbot-Unterhaltungen der mutmasslichen Täterin und der Umgang der Plattformbetreiber mit solchen Inhalten Fragen auf.
Das leitende Sicherheitsteam des ChatGPT-Entwicklers OpenAI werde heute zu Gesprächen in Ottawa erwartet, sagte der kanadische Minister für Künstliche Intelligenz, Evan Solomon.
«Wir wollen ein besseres Verständnis dafür bekommen, was geschieht und wie OpenAI vorgeht», führte der Minister aus.
OpenAI sperrte Verdächtige
Zuvor war bekanntgeworden, dass OpenAI das Konto der mittlerweile toten Tatverdächtigen im Juni gesperrt hatte, weil diese den KI-Chatbot zur «Förderung gewalttätiger Aktivitäten» missbraucht habe, berichtete der Sender CBC.
Die Aktivitäten des Kontos hätten die Schwelle für eine Weiterleitung an die Strafverfolgungsbehörden aber nicht erreicht, zitierte das «Wall Street Journal» aus einer Stellungnahme von OpenAI.
Es habe keine glaubwürdige und unmittelbare Gefahr einer schweren körperlichen Schädigung anderer bestanden.
Im Artikel des «Wall Street Journal» kommt zudem ans Licht: Einige OpenAI-Angestellte forderten ihre Chefs auf, die Schützin den Behörden zu melden.
Doch diese entschieden sich dagegen, obwohl die Tatverdächtige Szenarien mit Waffengewalt beschrieben hatte.
OpenAI gab gegenüber der Zeitung an, seine Modelle darauf zu trainieren, Nutzer von Gewalt in der realen Welt abzuhalten.
Acht Tote
Anfang Februar waren im westkanadischen Ort Tumbler Ridge acht Menschen getötet worden, sechs davon in einer Schule. Mindestens 25 weitere Personen wurden verletzt. Die mutmassliche Täterin tötete sich selbst.
Unter den Opfern waren Schülerinnen und Schüler, eine Lehrkraft sowie die Mutter und der Stiefbruder der mutmasslichen Schützin
Laut Polizei war bekannt, dass die Verdächtige psychische Probleme hatte. Beamte hatten in der Vergangenheit bereits temporär Waffen aus ihrem Haus entfernt.
Es handelt sich laut kanadischen Medien um den schlimmsten Vorfall dieser Art an einer Ausbildungsstätte in dem nordamerikanischen Land seit 1989.
