I medici vedono un ruolo per l'intelligenza artificiale nell'assistenza sanitaria, ma non necessariamente come chatbot

Il dott. Sina Bari, chirurgo e massimo esperto di intelligenza artificiale in ambito sanitario presso iMerit, ha dichiarato a TechCrunch che un paziente è stato tratto in inganno da ChatGPT quando gli è stato suggerito un farmaco e al paziente è stata mostrata la trascrizione di una conversazione di ChatGPT in cui si affermava che il farmaco comportava un rischio di embolia polmonare del 45%.

A un esame più attento, il Dott. Bari ha scoperto che le informazioni si riferivano a un ristretto sottogruppo di pazienti affetti da tubercolosi e non erano pertinenti per il paziente specifico. Ha affermato che l'esempio illustra i rischi dell'uso acritico di chatbot basati su intelligenza artificiale generica per la consulenza sanitaria.

Perché ChatGPT Health ispira ancora ottimismo

Nonostante questi casi, il Dott. Bari ha accolto la nuova funzionalità di ChatGPT Health con più entusiasmo che preoccupazione. Ritiene importante che l'attuale pratica di conversazioni basate sull'intelligenza artificiale sulla salute venga formalizzata ed elaborata con adeguate misure di sicurezza per proteggere dati e utenti.

ChatGPT Health consente agli utenti di avere conversazioni sulla salute in un ambiente separato e più privato, con OpenAI che sottolinea di non utilizzare queste conversazioni per addestrare i propri modelli. Gli utenti possono anche caricare cartelle cliniche o sincronizzare i dati da app come Apple Health e MyFitnessPal per risposte più personalizzate.

Privacy e questioni normative

La possibilità di collegare i dati sanitari all'intelligenza artificiale solleva nuovi interrogativi. Itai Schwartz, co-fondatore di MIND, mette in guardia dal trasferimento di dati sensibili da sistemi conformi all'HIPAA a fornitori non conformi. Afferma che sarà interessante vedere come le autorità di regolamentazione risponderanno a tali pratiche.

Nonostante le preoccupazioni, i numeri dimostrano che i chatbot basati sull'intelligenza artificiale sono già diventati un'importante fonte di informazioni: più di 230 milioni di persone utilizzano ChatGPT ogni settimana per domande relative alla salute.

L'intelligenza artificiale come aiuto per i medici, non come loro sostituto

Secondo il Dott. Nigam Shah, professore di medicina a Stanford e responsabile dei dati presso la Stanford Health Care, un problema più grande delle risposte errate dell'IA sono i lunghi tempi di attesa nel sistema sanitario. Negli Stati Uniti, i pazienti possono aspettare dai tre ai sei mesi per consultare un medico di base.

In questo contesto, il Dott. Shah vede un potenziale maggiore per l'intelligenza artificiale nel settore sanitario. Le attività amministrative possono richiedere fino a metà dell'orario di lavoro di un medico, con una conseguente riduzione diretta del numero di pazienti trattati.

Stanford sta sviluppando un sistema chiamato ChatEHR che si integra direttamente nelle cartelle cliniche elettroniche, consentendo ai medici di accedere più rapidamente alle informazioni chiave dei pazienti. I primi ad adottarlo affermano che il sistema riduce il tempo dedicato alla ricerca di informazioni e consente un contatto più diretto con i pazienti.

Anthropic sta inoltre sviluppando strumenti di intelligenza artificiale per professionisti sanitari e compagnie assicurative. Di recente ha introdotto Claude for Healthcare, una soluzione che mira a ridurre i tempi dedicati alle procedure amministrative, come le autorizzazioni preventive da parte delle compagnie assicurative.

L'inevitabile tensione tra tecnologia e medicina

Come sottolinea il Dott. Bari, esiste una tensione fondamentale nell'introduzione dell'intelligenza artificiale nell'assistenza sanitaria: i medici hanno una responsabilità primaria nei confronti dei pazienti, mentre le aziende tecnologiche agiscono anche nell'interesse degli azionisti.

“I pazienti si aspettano che siamo cauti e scettici"," afferma il Dott. Bari. "Questa precauzione è fondamentale per la loro protezione.”