La Corte Suprema sanziona un avvocato per aver utilizzato ChatGPT in un processo per omicidio.

La Corte Suprema del Nuovo Messico ha dichiarato l'avvocato di Santa Fe Stephen Aarons colpevole di oltraggio alla corte. Il veterano avvocato, in un ricorso in appello per un cliente condannato per omicidio, ha presentato un documento formale con contenuti generati dallo strumento ChatGPT di OpenAI. L'avvocato ha utilizzato il popolare chatbot per tentare di abbreviare lunghe trascrizioni del tribunale, per poi presentare il riassunto risultante alla corte senza alcuna revisione o lettura preventiva.

Il documento conteneva dichiarazioni di persone inesistenti e affermazioni inventate, erroneamente attribuite a un testimone reale. La reazione del tribunale è stata estremamente dura. Il giudice C. Shannon Bacon ha chiesto pubblicamente all'avvocato se seguisse le notizie, dato che informazioni inventate o "allucinazioni" di intelligenza artificiale nei documenti legali sono ripetutamente finite sui giornali. Ha aggiunto che l'avvocato o ha consapevolmente ignorato il fenomeno o ha giocato sconsideratamente con il destino del suo cliente. Aarons, che esercita la professione legale da oltre quarant'anni, ha ammesso il suo errore e ha dichiarato di aver erroneamente presupposto che il software avrebbe prodotto un riassunto affidabile.

Oltre all'ammonimento pubblico, il tribunale ha condannato l'avvocato al pagamento di una multa di 5.000 euro, che sarà destinata al fondo di tutela dei clienti, e ha deferito il caso all'organo di vigilanza disciplinare degli avvocati. Il caso testimonia quanto sia rischioso riporre una fiducia cieca nelle nuove tecnologie nel settore legale. Allo stesso tempo, sorgono seri dubbi sulla professionalità di coloro che presentano documenti cruciali senza verifica, poiché tali negligenze minacciano direttamente i diritti degli imputati. Non si tratta di un caso isolato, dato che diversi avvocati hanno recentemente subito sanzioni per aver presentato in tribunale materiale non verificato derivante dall'intelligenza artificiale.