Vrhovni sud kažnjava odvjetnika zbog korištenja ChatGPT-a u suđenju za ubojstvo

Vrhovni sud Novog Meksika proglasio je odvjetnika iz Santa Fea Stephena Aaronsa krivim za nepoštivanje suda. Iskusni odvjetnik, u žalbi klijenta osuđenog za ubojstvo, podnio je formalni dokument sa sadržajem generiranim OpenAI-jevim alatom ChatGPT. Odvjetnik je koristio popularni chatbot kako bi pokušao skratiti dugačke sudske transkripte, a zatim je rezultirajući sažetak podnio sudu bez ikakvog prethodnog pregleda ili čitanja.

Dokument je sadržavao izjave nepostojećih osoba i izmišljene tvrdnje koje su netočno pripisane stvarnom svjedoku. Odgovor suda bio je izuzetno oštar. Sutkinja C. Shannon Bacon javno je pitala odvjetnika prati li uopće vijesti, budući da su izmišljene informacije ili "halucinacije" umjetne inteligencije u pravnim dokumentima više puta dospjele na naslovnice. Dodala je da je odvjetnik ili svjesno ignorirao fenomen ili se nepromišljeno igrao sudbinom svog klijenta. Aarons, koji je u pravnoj profesiji više od četiri desetljeća, priznao je svoju pogrešku i rekao da je pogrešno pretpostavio da će softver proizvesti pouzdan sažetak.

Uz javno upozorenje, sud je odvjetniku naložio plaćanje novčane kazne od 5000 eura, koja će biti dodijeljena fondu za zaštitu klijenata, a predmet je uputio i tijelu za disciplinski nadzor nad odvjetnicima. Slučaj svjedoči o tome koliko je slijepo povjerenje u nove tehnologije rizično u pravnom sektoru. Istovremeno, javljaju se ozbiljne sumnje u profesionalnost pojedinaca koji dostavljaju ključne dokumente bez provjere, jer takvi propusti izravno ugrožavaju prava okrivljenika. Ovo nije izoliran slučaj, jer se nekoliko odvjetnika nedavno suočilo sa sankcijama zbog dostavljanja neprovjerenih materijala o umjetnoj inteligenciji na sudovima.