Les médecins reconnaissent un rôle à jouer pour l'intelligence artificielle dans les soins de santé, mais pas nécessairement sous la forme d'un chatbot.

Le Dr Sina Bari, chirurgien et expert de premier plan en IA dans le domaine de la santé chez iMerit, a déclaré à TechCrunch qu'un patient avait été induit en erreur par ChatGPT lorsqu'il lui avait suggéré un médicament, et qu'on lui avait montré la transcription d'une conversation ChatGPT indiquant que le médicament présentait un risque d'embolie pulmonaire de 45 %.

Après un examen plus approfondi, le Dr Bari a constaté que l'information concernait un groupe restreint de patients atteints de tuberculose et n'était pas pertinente pour le patient en question. Il a déclaré que cet exemple illustrait les risques liés à l'utilisation non critique de chatbots d'IA généralistes pour obtenir des conseils de santé.

Pourquoi ChatGPT Health continue d'inspirer l'optimisme

Malgré ces quelques exceptions, le Dr Bari a accueilli la nouvelle fonctionnalité ChatGPT Santé avec plus d'enthousiasme que d'inquiétude. Il estime qu'il est important de formaliser et de mettre en œuvre les mesures de protection appropriées pour garantir la sécurité des données et des utilisateurs, notamment pour les conversations avec l'IA concernant la santé.

ChatGPT Health permet aux utilisateurs de converser sur leur santé dans un environnement distinct et plus confidentiel. OpenAI précise que ces conversations ne servent pas à l'entraînement de ses modèles. Les utilisateurs peuvent également importer leurs dossiers médicaux ou synchroniser leurs données depuis des applications comme Apple Health et MyFitnessPal pour obtenir des réponses plus personnalisées.

Questions relatives à la confidentialité et à la réglementation

La possibilité de connecter les données de santé à l'IA soulève de nouvelles questions. Itai Schwartz, cofondateur de MIND, met en garde contre le transfert de données sensibles de systèmes conformes à la loi HIPAA vers des prestataires non conformes. Il estime qu'il sera intéressant d'observer la réaction des autorités de réglementation face à de telles pratiques.

Malgré les inquiétudes, les chiffres montrent que les chatbots IA sont déjà devenus une source d'information importante : plus de 230 millions de personnes utilisent ChatGPT chaque semaine pour des questions liées à la santé.

L'IA comme aide aux médecins, et non comme substitut.

Selon le Dr Nigam Shah, professeur de médecine à Stanford et responsable des données scientifiques chez Stanford Health Care, le problème majeur n'est pas tant les réponses erronées de l'IA que les longs délais d'attente dans le système de santé. Aux États-Unis, les patients peuvent attendre de trois à six mois pour consulter un médecin généraliste.

Dans ce contexte, le Dr Shah entrevoit un potentiel considérable pour l'IA dans le secteur de la santé. Les tâches administratives peuvent occuper jusqu'à la moitié du temps de travail d'un médecin, ce qui réduit directement le nombre de patients pris en charge.

Stanford développe un système appelé ChatEHR qui s'intègre directement aux dossiers médicaux électroniques, offrant ainsi aux médecins un accès plus rapide aux informations essentielles des patients. Les premiers utilisateurs affirment que le système réduit le temps consacré à la recherche d'informations et favorise un contact plus direct avec les patients.

Anthropic développe également des outils d'IA pour les professionnels de santé et les compagnies d'assurance. L'entreprise a récemment lancé Claude for Healthcare, une solution visant à réduire le temps consacré aux démarches administratives, notamment l'obtention des autorisations préalables des compagnies d'assurance.

La tension inévitable entre technologie et médecine

Comme le souligne le Dr Bari, l'introduction de l'intelligence artificielle dans les soins de santé soulève une tension fondamentale : les médecins ont une responsabilité première envers leurs patients, tandis que les entreprises technologiques agissent également dans l'intérêt de leurs actionnaires.

“Les patients s'attendent à ce que nous soyons prudents et sceptiques.« », dit le Dr Bari. « Cette précaution est essentielle à leur protection.”