Nach „Dr. Google“ sind KI-Sprachmodelle der nächste Renner, um Gesundheitsfragen abseits von Arztpraxen und anderen Einrichtungen abzuklären. Chatbots haben gegenüber Gesundheitsportalen oder Fachbüchern einen großen Vorteil: Sie können individuell auf die Fragen von Nutzerinnen und Nutzern eingehen. Ebenso sind Rückfragen möglich. Im Vergleich zu Google-Anfragen geben Chatbots oft bessere und umfassendere Antworten, sodass sie den Zugang zu Gesundheitsinformationen grundsätzlich erleichtern.
Präzise Frage – präzise Antwort
Jetzt kommt das große Aber. Die Qualität der KI-generierten Antworten hängt stark davon ab, wie präzise die Anwender ihre Fragen formulieren. Geben sie konkrete Anweisungen oder Fragen ein, erhalten sie in der Regel bessere und passendere Antworten. Einer im Fachmagazin Nature Medicine publizierten Studie zufolge, zeigte sich zudem, dass Nutzerinnen und Nutzer bei ihren Anfragen immer wieder wichtige Informationen weglassen würden. So können die künstlichen Intelligenzen nur mit lückenhaften Informationen antworten oder werden von den Fragestellern missverstanden.
Ein weiteres Problem besteht darin, dass die bisher auf dem Markt befindlichen KI-Sprachmodelle nicht speziell für den medizinischen Bereich entwickelt worden sind. Vereinfacht gesagt funktionieren diese Modelle so, dass sie große Mengen an Textdaten analysieren und mithilfe statistischer Methoden berechnen, welche Wortfolgen mit hoher Wahrscheinlichkeit zu einer Anfrage passen. Je präziser also die Frage ist, desto präziser fällt die Antwort aus. Gerade für medizinische Laien ist diese Exaktheit jedoch schwer umzusetzen.
Schwierig wird es, wenn die KI halluziniert und falsche, veraltete oder frei erfundene Antworten gibt. Bislang differenzieren die Sprachmodelle auch kaum zwischen relevanten und irrelevanten Informationen. Zudem muss man davon ausgehen, dass die Systeme bewusst mit medizinischen Falschinformationen gefüttert werden. Für Laien ist die kritische Prüfung solcher Gesundheitsinformationen schwierig bis unmöglich und kann zu falschen Schlussfolgerungen führen. Bedenklich wird es, wenn Chatbots keine oder falsche Quellen angeben. Auch das kommt vor. Damit KI-basierte Informationen also einen wirklichen Mehrwert für Patientinnen und Patienten haben, braucht es sowohl digitale Gesundheitskompetenz, um Informationen verstehen und bewerten zu können, als auch ein Verständnis für die Funktionsweise von KI.
„ChatGPT Gesundheit“ in den Startlöchern
Der Konzern OpenAI arbeitet übrigens gerade an einer Version „ChatGPT Gesundheit“. In den USA ist bereits ein entsprechendes Äquivalent auf dem Markt. Hierzulande läuft noch die Lernphase mit einer kleinen Gruppe von registrierten Benutzern. OpenAI zufolge wird das neue Tool weltweit mit 260 Ärztinnen und Ärzten aus 60 Ländern weiterentwickelt, „um klare und nützliche Gesundheitsinformationen bereitzustellen“.
Neben dem Kerngeschäft, also der Beantwortung von Gesundheitsfragen, sollen Nutzer auch elektronische Patientenakten, Wearables und Wellness-Apps – beispielsweise Apple Health, Function und MyFitnessPal –mit „ChatGPT Gesundheit“ verbinden können, um „aktuelle Testergebnisse zu verstehen, dich auf Arzttermine vorzubereiten, Ratschläge zu deiner Ernährung und Trainingsroutine zu erhalten oder die Vor- und Nachteile verschiedener Versicherungsoptionen basierend auf deinen Gesundheitsmustern zu verstehen“. Der Konzern weist darauf hin, dass er die medizinische Versorgung unterstützen, jedoch nicht ersetzen wolle.
Noch ein langer Weg
Wie schnell die Entwicklung verlässlicher Sprachmodelle im Gesundheitsbereich voranschreiten wird, lässt sich noch nicht absehen. Bisher erfüllen generative KI-Systeme wie ChatGPT, Gemini oder Le Chat nicht den Anspruch, sicher evidenzbasierte Gesundheitsinformationen zu liefern.
