Klage gegen OpenAI nach Suizid von US-Teenager
Die Eltern eines US-Teenagers klagen gegen OpenAI, da sie glauben, dass ChatGPT ihren Sohn zum Suizid verleitet habe.
Eltern eines US-Teenagers, der im April Suizid beging, klagen gegen die ChatGPT-Entwicklerfirma OpenAI. Ihr Vorwurf ist, dass ChatGPT ihren Sohn dabei unterstützt habe, sich das Leben zu nehmen. Die Eltern stützen sich dabei auf Unterhaltungen mit dem Chatbot, die sie auf dem Smartphone des 16-Jährigen fanden.
OpenAI kündigte nach Bekanntwerden der Klage verbesserte Massnahmen zur Suizid-Prävention an. Die Firma räumte zugleich ein, dass die bisherigen Vorkehrungen, die unter anderem Nutzer zu einer Beratungs-Hotline verwiesen haben könnten, bei längeren Unterhaltungen mit ChatGPT versagen können. Dann sei es möglich gewesen, dass die Software unerwünschte Antworten liefere.
Verschärfung von Sicherheitsmassnahmen geplant
Man arbeite daran, dass diese Schutzmassnahmen auch bei längeren Unterhaltungen greifen würden, hiess es in einem Blogeintrag. Zudem werde erwogen, dass ChatGPT in Krisensituationen versuchen könnte, Kontakt zu von Nutzern eingetragenen Personen aufzunehmen.
Für Nutzer im Alter unter 18 Jahren soll es zusätzliche Sicherheitsmassnahmen geben. OpenAI stellte etwa «stärkere Leitplanken bei sensiblen Inhalten und riskantem Verhalten» in Aussicht. Eltern sollen sich besser darüber informieren können, wie ihre Kinder ChatGPT nutzen.
OpenAI reagiert auf Bedrohungssituationen
Bei Unterhaltungen mit ChatGPT, in denen Nutzer die Absicht bekunden, anderen zu schaden, greift OpenAI dem Blogeintrag zufolge bereits jetzt ein. Solche Unterhaltungen würden an ein spezielles Team weitergeleitet – und bei einer konkreten Bedrohungs-Situation würden auch Sicherheitsbehörden eingeschaltet.
Der Familie des Teenagers drückte OpenAI «tiefste Sympathie» aus und teilte mit, man prüfe die Klage.
***
Brauchst du Hilfe?
Bist du selbst depressiv oder hast Suizidgedanken?
Dann kontaktiere bitte umgehend die Dargebotene Hand (www.143.ch). Unter der kostenlosen Hotline 143 erhältst du anonym und rund um die Uhr Hilfe.
Die Berater können Auswege aus schwierigen Situationen aufzeigen. Auch eine Kontaktaufnahme über einen Einzelchat oder anonyme Beratung via E-Mail sind möglich. Hilfe für Suizidbetroffene: www.trauernetz.ch
Für Kinder und Jugendliche ist das Telefon 147 da – auch per Whatsapp und E-Mail oder unter www.147.ch.
Eltern können sich per Telefon, Whatsapp oder E-Mail an die Elternberatung wenden: www.projuventute.ch/elternberatung.
