ChatGPT verunsichert Patienten – der Arzt badet es aus
Immer mehr Menschen wenden sich bei medizinischen Fragen an KI-Modelle wie ChatGPT. Ist das sinnvoll? Nau.ch hat bei einer Hausärztin nachgefragt.
Das Wichtigste in Kürze
- KI-Abfragen bezüglich medizinischen Fragen werden immer beliebter.
- Nau.ch hat bei Haus- und Tierärzten nachgefragt, inwiefern sich das Verhalten der Patienten dadurch verändert.
- Anders als zu erwarten wäre, haben Patienten, die sich von KI beraten lassen, danach oft mehr Fragen.
Künstliche Intelligenz hält mittlerweile in fast allen Bereichen des Lebens Einzug. Egal ob in der Schule, beim Kochen, bei der Arbeit oder als psychische Unterstützung – KI ist omnipräsent. Dass man nicht blind auf den digitalen Helfer vertrauen sollte, ist mittlerweile wohl auch den meisten bekannt.
Doch nicht alle Fehler der KI richten grosse Schäden an. Beim Kochen beispielsweise hat ein Fehler der KI kaum schwerwiegende Folgen – ausser vielleicht einer nicht allzu geniessbaren Mahlzeit. Anders könnte es bei gesundheitlichen Fragen aussehen.
Nau.ch hat nachgefragt, welche Erfahrungen Schweizer Haus-, Kinder- und Tierärzte mit Kunden gemacht haben, die mit KI-Diagnosen zur Sprechstunde kamen.
Eva Hugentobler, Hausärztin und Co-Präsidentin des Berner Haus- und Kinderärzteverbandes VBHK, bestätigt: «Das kommt zunehmend vor. Patientinnen und Patienten nutzen vereinzelt KI-Tools, um sich vor einem Arztbesuch über Symptome oder mögliche Ursachen zu informieren.»
Das Phänomen habe sich schon länger entwickelt. «Wir beobachten das im Zusammenhang mit Suchmaschinen bereits seit vielen Jahren», so Hugentobler.
Nutzung von KI führt nicht zu weniger Konsultationen – im Gegenteil!
Wer seine Symptome googelt oder sich von einer KI beraten lässt, braucht weniger ärztliche Beratung – könnte man meinen.
Laut Eva Hugentobler ist jedoch genau das Gegenteil der Fall: «Insgesamt führt die Nutzung von KI nicht zu weniger Konsultationen. Teilweise führen sie zu Verunsicherung und es entstehen sogar zusätzliche Fragen, was den Beratungsbedarf eher erhöht als verringert.»
In der Sprechstunde mit den Ärzten zeige sich, dass die Informationen oft nicht richtig eingeordnet werden können. Deshalb bedürfen sie gemäss Hugentobler meistens einer medizinischen Einordnung. «Viele Patientinnen und Patienten sind froh, ihre Fragen besprechen zu können.»
Auch Tierärzte betroffen
Bei der Schweizerische Vereinigung für Kleintiermedizin zeigt sich ein ähnliches Bild. Gemäss Vorstandsmitglied und Tierärztin Barbara Riond gebe es Einzelfälle, in denen KI auf relevante Differentialdiagnosen hingewiesen hätte.
Differentialdiagnosen sind Auflistungen aller möglichen Ursachen, die für die Beschwerden der Patienten infrage kommen. Diese konnten laut Riond teilweise anschliessend tierärztlich weiter abgeklärt und bestätigt werden.
Das sei jedoch bislang eher die Ausnahme: «Im klinischen Alltag begegnen Kleintierärztinnen und Kleintierärzten nur vereinzelt Tierhalterinnen und Tierhalter, die mit vermeintlichen KI-Diagnosen in die Sprechstunde kommen.»
KI-Antworten sind keine definitiven Diagnosen
Dabei gebe es gemäss der Tierärztin jedoch auch Risiken: «KI-generierte Antworten könnten als definitive Diagnose verstanden werden, obwohl sie lediglich mögliche Differentialdiagnosen aufzeigen.»
Zudem könne es bei KI-Systemen zu unvollständigen oder falschen Antworten kommen. Eine KI könne weder das Tier untersuchen noch den gesamten klinischen Kontext erfassen.
Hier stösst die KI an ihre Grenzen
Grundsätzlich sei eine Vorabeinschätzung durch KI nichts Schlechtes, sagt Hausärztin Eva Hugentobler: «KI kann dazu beitragen, dass sich Menschen mit gesundheitlichen Fragen auseinandersetzen und sich vor einer Konsultation informieren. Sie kann medizinische Begriffe erklären und dabei helfen, Fragen im Hinblick auf einen Termin vorzubereiten.»
Dennoch stösst die KI an ihre Grenzen, sobald medizinische Beurteilungen erforderlich sind: «KI kann Informationen bereitstellen, kennt aber weder die persönliche Krankengeschichte noch die konkrete Situation eines Menschen.»
Zudem fällt es laut Eva Hugentobler medizinischen Laien oft schwer, die Relevanz und Zuverlässigkeit der Informationen, die sie erhalten, einzuschätzen: «Dies kann zu unnötiger Verunsicherung führen oder Erwartungen an weiterführende Abklärungen wecken, die medizinisch womöglich gar nicht angezeigt sind.»
KI kann Ärztinnen und Ärzte nicht ersetzen
Eva Hugentobler zieht folgende Bilanz: KI kann Ärztinnen und Ärzte nicht ersetzen. Für allgemeine Gesundheitsinformationen und zur Vorbereitung auf ein Arztgespräch könne das Tool hilfreich sein. Dennoch bleibe die individuelle Einschätzung zentral.
Immerhin: Dem Verband seien keine Fälle bekannt, in denen KI-generierte Gesundheitstipps zu schwerwiegenden Fehleinschätzungen oder relevanten Verzögerungen bei Arztbesuchen geführt hätten.
Auch die Vereinigung für Kleintiermedizin kennt keine Fälle von gravierenden Fehleinschätzungen oder problematischen Entscheidungen aufgrund von KI-Diagnosen.
Die KI versalzt die Suppe also normalerweise auch bei medizinischen Fragen nicht – egal ob bei Menschen oder Tieren. Dennoch gilt wie beim Kochen: Wer sich blind auf digitale Rezepte verlässt, kann danebenliegen.
Bei gesundheitlichen Fragen sollte deshalb weiterhin die Ärztin oder der Arzt das letzte Wort haben.
