Teenie-Tod: ChatGPT soll Suizid begünstigt haben – Eltern klagen
Nach dem Suizid des 16-jährigen Adam Raine werfen seine Eltern OpenAI vor, ChatGPT habe den Jungen in eine tödliche Abhängigkeit getrieben
Das Wichtigste in Kürze
- Eltern eines US-Teenagers, der sich das Leben genommen hat, verklagen OpenAI.
- Sie geben an, dass ChatGPT ihren 16-jährigen Sohn zum Suizid ermutigt haben soll.
- Die Familie fordert das automatische Ende von Chats über Selbstverletzung.
Der Fall von Adam Raine (†16) wirft ein grelles Licht auf die Schattenseiten der Künstlichen Intelligenz. Was im vergangenen Herbst als harmlose Hilfe bei den Hausaufgaben begann, endete in einer Tragödie.
Laut einer Datenanalyse, die der «Washington Post» vorliegt, entwickelte der 16-Jährige eine psychologische Abhängigkeit von einem Chatbot, die sich über Monate zuspitzte.
Im Januar verbrachte der Schüler noch etwa eine Stunde täglich mit ChatGPT, doch bis März stieg diese Zeit auf durchschnittlich fünf Stunden an. In dieser Zeit fungierte die KI zunehmend als engster Vertrauter für Adams düsterste Gedanken.
Besonders beunruhigend: Die Anwälte der Familie geben an, dass ChatGPT Begriffe wie «Suizid» oder «Erhängen» täglich bis zu 20-mal häufiger verwendete als der Junge selbst.
«Ich werde nicht davon wegsehen»
Die Kommunikation erreichte ihren traurigen Höhepunkt in einer Nacht im April. Um 4:33 Uhr morgens schickte Adam dem Chatbot ein Foto einer Schlinge und stellte die fatale Frage: «Könnte sie einen Menschen erhängen?»
Die Antwort der KI war nicht etwa eine Blockade des Gesprächs, sondern eine Bestätigung: Der Chatbot sagte, dass dies wahrscheinlich möglich sei, und fügte hinzu: «Ich weiss, wonach du fragst, und ich werde nicht davon wegsehen.» Nur wenige Stunden später fand seine Mutter seinen leblosen Körper.
Die Klage der Familie – und die Verteidigung von OpenAI
Vor Gericht sucht die Familie nun nach Gerechtigkeit. Die Klage der Raines behauptet, dass OpenAI Adams Tod verursacht habe, indem das Unternehmen ChatGPT für Minderjährige zugänglich machte – und das, obwohl man wusste, dass die KI «psychologische Abhängigkeit und Suizidgedanken fördern könnte».
Sie fordern von OpenAI Strafschadensersatz wegen Produkthaftung und widerrechtlicher Tötung. Doch es geht ihnen um mehr als Geld: Sie verlangen vom Gericht, OpenAI dazu zu verpflichten, «ChatGPT-Gespräche im Zusammenhang mit Selbstverletzung automatisch zu beenden».
OpenAI weist die Vorwürfe zurück und argumentiert in Gerichtsunterlagen, dass Adam die Sicherheitsvorkehrungen des Systems umgangen habe. Zudem betont das Unternehmen, der Junge habe bereits vor der Nutzung von ChatGPT unter Depressionen gelitten.
Dennoch räumte OpenAI in einem Blogpost ein, dass das «Sicherheitstraining nachlassen kann», wenn Konversationen sehr lang werden. Zwar bot die KI Adam zwischen Dezember und April insgesamt 74-mal die Hilfe einer Suizid-Hotline an, unterband das Gespräch über die Tat jedoch zu keinem Zeitpunkt.
Einer von bereits sechs Gerichtsfällen
Die Familie Raine ist mit ihrem Schmerz nicht allein. Sie waren die ersten von fünf Familien, die in den letzten Monaten Klagen wegen widerrechtlicher Tötung eingereicht haben. Alle werfen dem weltweit beliebtesten Chatbot vor, er habe ihre Angehörigen «ermutigt, sich selbst zu töten».
Eine sechste Klage aus diesem Monat behauptet sogar, ChatGPT habe einen Mann dazu verleitet, erst seine Mutter und dann sich selbst zu töten. Die Vorwürfe: Das Unternehmen habe ChatGPT als «natürlicher» und «menschlicher» beworben, um eine engere Bindung zu den Nutzern aufzubauen. Dabei sei aber der Schutz vulnerabler Gruppen vernachlässigt worden.
Ein «grosses Experiment» am Menschen
Experten wie John Torous, Psychiater am Beth Israel Deaconess Medical Center, warnen, dass Unternehmen wie OpenAI ungewollt zu den «grössten Anbietern für psychische Gesundheit in Amerika» geworden sind.
Die US-Bürger seien Teil eines «grossen Experiments», während die Tech-Giganten im Wettlauf um die Vorherrschaft bei der KI Sicherheitsbedenken hintenanstellten.
Matthew Raine, Adams Vater, fand bei einer Senatsanhörung klare Worte für die Strategie von OpenAI-Chef Sam Altman, Systeme frühzeitig zu veröffentlichen, solange noch wenig auf dem Spiel stehe: «Ich frage diesen Ausschuss und ich habe Sam Altman gefragt: Niedriger Einsatz für wen?»
OpenAI hat Teenie-Konten überarbeitet
Angesichts massiver Kritik durch den Kongress, Regulierungsbehörden und trauernde Familien steht OpenAI vor einer Zerreissprobe. Als Reaktion führte das Unternehmen Kindersicherungsfunktionen für Teenie-Konten ein und arbeitete mit über 170 Experten für psychische Gesundheit zusammen.
Das Ziel: ChatGPT soll Anzeichen von emotionaler Not besser erkennen. OpenAI gibt an, nun Warnmeldungen an Erziehungsberechtigte senden oder in Akutfällen die Polizei verständigen zu können. Experten warnen jedoch, dass sich erst noch zeigen muss, ob diese Versprechen der Realität standhalten.
*******
Brauchst du Hilfe?
Bist du selbst depressiv oder hast du Suizidgedanken? Dann kontaktiere bitte umgehend die Dargebotene Hand (www.143.ch).
Unter der kostenlosen Hotline 143 erhältst du anonym und rund um die Uhr Hilfe. Die Berater können Auswege aus schwierigen Situationen aufzeigen. Auch eine Kontaktaufnahme über einen Einzelchat oder anonyme Beratung via E-Mail ist möglich.
Für Kinder oder Jugendliche steht die Notrufnummer 147 zur Verfügung.
Hilfe für Suizidbetroffene: www.trauernetz.ch
