La Cour suprême sanctionne un avocat pour avoir utilisé ChatGPT lors d'un procès pour meurtre

La Cour suprême du Nouveau-Mexique a reconnu l'avocat Stephen Aarons, de Santa Fe, coupable d'outrage au tribunal. Cet avocat chevronné, dans le cadre de l'appel d'un client condamné pour meurtre, a soumis un document officiel dont le contenu avait été généré par l'outil ChatGPT d'OpenAI. Il a utilisé ce chatbot populaire pour tenter de résumer de longs extraits de transcriptions d'audience, puis a soumis le résumé obtenu à la cour sans l'avoir préalablement relu ni lu.

Le document contenait des déclarations de personnes fictives et des allégations fabriquées de toutes pièces, attribuées à tort à un témoin réel. La réaction du tribunal fut extrêmement sévère. La juge C. Shannon Bacon demanda publiquement à l'avocat s'il suivait l'actualité, car les informations falsifiées ou les « hallucinations » de l'intelligence artificielle dans les documents juridiques ont fait régulièrement la une des journaux. Elle ajouta que l'avocat avait soit sciemment ignoré le phénomène, soit joué de manière irresponsable avec le sort de son client. Aarons, qui exerce le droit depuis plus de quarante ans, reconnut son erreur et déclara avoir supposé à tort que le logiciel produirait un résumé fiable.

Outre l'avertissement public, le tribunal a condamné l'avocat à une amende de 5 000 euros, qui sera versée au fonds de protection des clients, et a également saisi l'instance disciplinaire des avocats. Cette affaire illustre les risques liés à une confiance aveugle dans les nouvelles technologies au sein du secteur juridique. Parallèlement, de sérieux doutes subsistent quant au professionnalisme des personnes qui soumettent des documents clés sans vérification, car de telles négligences menacent directement les droits des accusés. Il ne s'agit pas d'un cas isolé : plusieurs avocats ont récemment été sanctionnés pour avoir présenté devant les tribunaux des éléments d'intelligence artificielle non vérifiés.