Dargebotene Hand setzt jetzt auf KI-Chat – ist das sinnvoll?
Bei der Dargebotenen Hand hilft neu KI im Chat aus, wenn Freiwillige fehlen. Ersetzen kann sie den Menschen aber nicht.
Das Wichtigste in Kürze
- Die KI greift auf eine begrenzte Wissensdatenbank zurück und nutzt keine Informationen aus dem freien Internet.
- Bei Suizidgedanken greift ein Sicherheitsmechanismus und verweist auf die Telefonnummer 143 beziehungsweise einen Menschen.
- Die Gespräche mit dem Bot werden nicht von der Dargebotenen Hand eingesehen. Persönliche Daten wie Namen oder IP-Adressen werden nicht gesammelt.
- Pro Juventute setzt trotz steigender Nachfrage weiter auf persönliche Beratung und plant keinen KI-Chat.
Wenn niemand zuhört, ist die Dargebotene Hand da. Rund um die Uhr bietet sie unter der Nummer 143 Menschen in Krisen und akuten Notfällen ein offenes Ohr.
Die Dargebotene Hand ist nicht nur ein Sorgentelefon. Anonyme und kostenlose Unterstützung gibt es auch via E-Mail oder Chat unter 143.ch. Doch der Dienst kommt an seine Grenzen.
Bislang konnte die Dargebotene Hand nur jede vierte Chatanfrage beantworten. Die Lösung: Seit Anfang Oktober hilft die Künstliche Intelligenz (KI) bei der Beantwortung.
KI nur am Chat, nicht am Telefon
Eva Haussmann, Fachleitung Online, erklärt das Prinzip bei Nau.ch. «Grundsätzlich sollen so viele Anfragen wie möglich von einem Menschen beantwortet werden. Steht nach einer Minute noch kein Mensch zur Verfügung, wird die hilfesuchende Person vertröstet und auf den Chatbot aufmerksam gemacht.»
Die KI-Lösung ist also nur eine Ergänzung, kein Ersatz. Nicht zuletzt auch wegen der qualitativen Unterschiede. «Anonymisierte Testläufe zeigten, dass die Beratung unserer Freiwilligen besser abschneidet als die des Chatbots.»
In den ersten vier Tagen nutzten 30 Personen den Chatbot. Von insgesamt 486 Anfragen via Chat, konnten 298 nicht beantwortet werden. Von denen haben also rund zehn Prozent den Chatbot ausprobiert.
Wichtig: Wer anruft, hat immer einen Menschen am Apparat. «Ein KI-Einsatz für Anrufe können wir uns nicht vorstellen», betont Haussmann.
KI-Chatbot bricht bei Suizidgedanken ab
Der 143-Chatbot hat einen Sicherheitsmechanismus eingebaut. Bei Suizidgedanken greift ein vordefinierter Ablauf und verweist auf die Telefonnummer beziehungsweise einen Menschen.
Anders als ein menschlicher Berater führt der Bot das Gespräch in solchen Situationen nicht weiter.
Und das aus gutem Grund. Letztes Jahr sorgt der Fall eines 16-jährigen US-Amerikaners für Aufsehen. Er beging Suizid, nachdem er über längere Zeit Gespräche mit ChatGPT geführt hatte.
Seine Eltern warfen dem KI-Unternehmen vor, dass der Chatbot ihren Sohn in den Suizidgedanken sogar bestärkt habe.
Die Dargebotene Hand hat weitere Massnahmen getroffen, um das KI-Angebot klar von der menschlichen Beratung abzugrenzen. So spricht die 143-KI nie in der «Ich»-Form und ist durch ein stilisiertes Robotergesicht immer als Maschine zu erkennen.
«Mögliche Folge: Hilfesuchende fühlen sich nicht abgeholt»
Doch genau hier könne auch eine Gefahr liegen, sagt Eva Haussmann. «Personen könnten die KI als weniger empathisch als herkömmliche KI-Programme wahrnehmen. Die mögliche Folge: Die Hilfesuchenden fühlen sich nicht abgeholt.»
Zudem hat der 143-Chatbot keine Erinnerungsfunktion. Jeder Chat beginnt neu. Zusammenhänge erkennt der Chatbot damit weniger gut.
Auch die Dargebotene Hand selbst hat keinen Zugriff auf die Gesprächsprotokolle. Sie erhält nur Angaben über Zeit, Dauer und übergeordnetes Thema der Chats. Namen oder IP-Adressen werden keine gesammelt. Die Daten werden in Finnland gespeichert.
FDP-Ständerat: «KI darf Gegenüber niemals ersetzen»
Der Urner FDP-Ständerat Josef Dittli ist Co-Präsident der Parlamentarischen Gruppe Psychische Gesundheit und Psychiatrie. Der KI-Einsatz stimmt ihn nachdenklich.
«Psychische Krisen und Suizidgedanken erfordern echtes menschliches Einfühlungsvermögen, Empathie und nuanciertes Verstehen», erklärt er gegenüber Nau.ch. «Eine KI kann Vorlagen liefern oder Triagieren, darf aber das menschliche Gegenüber in akuten Notlagen niemals ersetzen.»
Vorteile sieht Dittli angesichts der vielen unbeantworteten Anfragen darin, Wartezeiten zu verkürzen und Anfragen vorab zu prüfen. «KI kann helfen, die extrem hohe Last zu strukturieren und Kapazitäten zu entlasten.»
Dass bislang nur jede vierte Chatanfrage beantwortet werden konnte, sei alarmierend. Für Dittli zeige das, dass der Behandlungs- und Beratungsbedarf schneller wachse als die vorhandenen Kapazitäten des Gesundheitssystems.
«Einerseits nimmt die Enttabuisierung psychischer Belastungen zu», weiss der Ständerat. Insbesondere jüngere Menschen suchten heute eher Hilfe über digitale Kanäle.
«Andererseits offenbart es eine spürbare Lücke in der Versorgung. Wir sehen schweizweit Engpässe bei Therapieplätzen und in der Kinder- und Jugendpsychiatrie», mahnt Dittli.
Dargebotene Hand erhält keine Bundesgelder
Niederschwellige Beratungsangebote wie die Dargebotene Hand seien daher eine «zentrale Stütze unseres psychosozialen Auffangnetzes». Sie ist oft erste Anlaufstelle und bietet Betroffenen in Akutsituationen oder bei Einsamkeit rund um die Uhr anonymen, geschützten Raum.
«Diese Arbeit ist wichtig und leistet einen enormen Beitrag zur Prävention und Krisenintervention in der Schweiz», lobt der Politiker.
Die Dargebotene Hand setzt bei der Beratung auf Freiwillige, ist föderalistisch organisiert und finanziert sich ausschliesslich durch Spenden. Bundesgelder sind für die Organisation derzeit kein Thema. Sie will den Betrieb auch so sicherstellen.
Ständerat Dittli hat bei der Frage nach einer öffentlichen Finanzierung primär die Kantone, die Gemeinde oder die Stiftungen im Blick.
«Dennoch zeigt die aktuelle Situation, dass wir uns grundsätzlich Gedanken machen müssen, wie wir solche kritische Inanspruchnahmen nachhaltig absichern können.»
Pro Juventute sieht von KI-Chats ab
Anders als die Dargebotene Hand finanziert sich Pro Juventute neben Spendengeldern auch durch die öffentliche Hand. Pro Juventute betreibt das Sorgentelefon 147 für Kinder und Jugendliche und stellt ebenfalls eine steigende Nachfrage fest.
Im letzten Jahr verzeichnete sie 50'000 Kontakte – «so häufig wie noch nie zuvor».
Einen KI-Chatbot als Ergänzung für die persönliche Beratung plant Pro Juventute trotz teilweise hoher Nachfrage und Wartezeiten jedoch nicht.
«Bei der Beratung 147 erhalten Kinder und Jugendliche ausschliesslich Unterstützung von ausgebildeten Fachpersonen», sagt Sprecher Olivier Reber zu Nau.ch. «Der menschliche Kontakt ist dabei ein zentraler Bestandteil und soll es auch bleiben.»
Gleichzeitig verweist er auf eine Pro-Juventute-Jugendstudie, wonach sich junge Menschen bei Sorgen auch an eine KI wenden.
«Aus unserer Sicht kann die KI ergänzend eine Hilfestellung sein. Sie darf aber die menschliche und professionelle Beratung, gerade in Krisensituationen, nicht ersetzen.»
Brauchst du Hile?
Bist du selbst depressiv oder hast du Suizidgedanken? Dann kontaktiere bitte umgehend die Dargebotene Hand (www.143.ch). Unter der kostenlosen Hotline 143 erhältst du anonym und rund um die Uhr Hilfe. Kinder und Jugendliche finden unter 147 sowie auf www.147.ch Unterstützung.
Die Berater können Auswege aus schwierigen Situationen aufzeigen. Auch eine Kontaktaufnahme über einen Einzelchat oder anonyme Beratung via E-Mail ist möglich.
Hilfe für Suizidbetroffene: www.trauernetz.ch
