Ärzte sehen eine Rolle für künstliche Intelligenz im Gesundheitswesen, aber nicht unbedingt in Form eines Chatbots.

Dr. Sina Bari, Chirurg und führender KI-Experte im Gesundheitswesen bei iMerit, berichtete TechCrunch, dass ein Patient von ChatGPT in die Irre geführt wurde, als dieser ein Medikament vorschlug. Dem Patienten wurde ein Protokoll einer ChatGPT-Konversation gezeigt, in dem stand, dass das Medikament ein 45-prozentiges Risiko einer Lungenembolie berge.

Bei genauerer Betrachtung stellte Dr. Bari fest, dass sich die Informationen auf eine kleine Untergruppe von Tuberkulosepatienten bezogen und für den konkreten Patienten nicht relevant waren. Er sagte, das Beispiel verdeutliche die Risiken des unkritischen Einsatzes allgemeiner KI-Chatbots für Gesundheitsberatung.

Warum ChatGPT Health weiterhin Optimismus weckt

Trotz solcher Fälle begrüßte Dr. Bari die neue ChatGPT-Gesundheitsfunktion mit mehr Begeisterung als Besorgnis. Er hält es für wichtig, die bestehende Praxis von KI-gestützten Gesundheitsgesprächen zu formalisieren und mit angemessenen Sicherheitsvorkehrungen zum Schutz von Daten und Nutzern zu versehen.

ChatGPT Health ermöglicht Nutzern Gesundheitsgespräche in einer separaten, privateren Umgebung. OpenAI betont, dass diese Gespräche nicht zum Trainieren der Modelle verwendet werden. Nutzer können zudem Gesundheitsdaten hochladen oder Daten von Apps wie Apple Health und MyFitnessPal synchronisieren, um personalisierte Antworten zu erhalten.

Datenschutz- und Regulierungsfragen

Die Möglichkeit, Gesundheitsdaten mit KI zu verknüpfen, wirft neue Fragen auf. Itai Schwartz, Mitbegründer von MIND, warnt vor der Übermittlung sensibler Daten von HIPAA-konformen Systemen an nicht HIPAA-konforme Anbieter. Er meint, es werde interessant sein zu beobachten, wie die Regulierungsbehörden auf solche Praktiken reagieren.

Trotz der Bedenken zeigen die Zahlen, dass KI-Chatbots bereits zu einer wichtigen Informationsquelle geworden sind: Mehr als 230 Millionen Menschen nutzen ChatGPT jede Woche für gesundheitsbezogene Fragen.

KI als Unterstützung für Ärzte, nicht als Ersatz

Laut Dr. Nigam Shah, Medizinprofessor an der Stanford University und leitender Datenwissenschaftler bei Stanford Health Care, sind die langen Wartezeiten im Gesundheitssystem ein größeres Problem als die fehlerhaften Antworten der KI. In den USA müssen Patienten drei bis sechs Monate auf einen Termin beim Hausarzt warten.

In diesem Zusammenhang sieht Dr. Shah ein größeres Potenzial für KI im Gesundheitswesen. Administrative Aufgaben können bis zu die Hälfte der Arbeitszeit eines Arztes in Anspruch nehmen, was die Anzahl der behandelten Patienten direkt reduziert.

Stanford entwickelt ein System namens ChatEHR, das sich direkt in elektronische Patientenakten integriert und Ärzten einen schnelleren Zugriff auf wichtige Patienteninformationen ermöglicht. Erste Anwender berichten, dass das System die Informationssuche beschleunigt und einen direkteren Kontakt zu den Patienten ermöglicht.

Anthropic entwickelt außerdem KI-Tools für medizinisches Fachpersonal und Versicherungen. Kürzlich wurde Claude for Healthcare vorgestellt, eine Lösung, die den Zeitaufwand für administrative Verfahren wie die Einholung von Genehmigungen durch Versicherungen reduzieren soll.

Die unvermeidliche Spannung zwischen Technologie und Medizin

Wie Dr. Bari betont, besteht bei der Einführung künstlicher Intelligenz im Gesundheitswesen ein grundlegender Widerspruch: Ärzte tragen eine primäre Verantwortung gegenüber den Patienten, während Technologieunternehmen auch im Interesse ihrer Aktionäre handeln.

“Die Patienten erwarten von uns Vorsicht und Skepsis."," sagt Dr. Bari.Diese Vorsichtsmaßnahme ist entscheidend für ihren Schutz..”