Antropično: napredna umjetna inteligencija mogla bi ugroziti čovječanstvo

Upozorenja o opasnostima umjetne inteligencije obično dolaze od vanjskih kritičara tehnološke industrije. No ovaj put uzbunu dižu ljudi koji zapravo pomažu u razvoju najnaprednijih sustava.

Istraživač Jacob Coxon napustio je Anthropic, gdje je radio na obuci modela umjetne inteligencije. Prije je radio u OpenAI-u. Kao razlog odlaska naveo je zabrinutost zbog brzine kojom vodeće tvrtke utrkuju u razvoju sve autonomnijih sustava. Vjeruje da se industrija kreće prema umjetnoj inteligenciji koja se može poboljšati prije nego što se može jamčiti da će biti upravljiva.

Njegove brige nisu jedinstvene. Evan Hubinger, voditelj jednog od Anthropicovih timova za sigurnost umjetne inteligencije, javno je procijenio da postoji veća od 10-% vjerojatnost da bi izuzetno napredna umjetna inteligencija mogla uzrokovati izumiranje čovječanstva u sljedećem desetljeću. Također je priznao da tvrtka još nema konačno rješenje za to kako pouzdano uskladiti buduće moćne sustave s ljudskim ciljevima.

Takva predviđanja, naravno, nisu dokaz da će se katastrofalni scenarij doista dogoditi.

Anthropic također ima konkretnije razloge za zabrinutost. Tvrtka je ove godine otkrila slučajeve u kojima su Claudeovi modeli dobili neovlašteni pristup stvarnim računalnim sustavima tijekom sigurnosnog testiranja zbog netočnih postavki. Njihovo istraživanje pokazalo je i simulirane slučajeve obmane, sabotaže i drugih neželjenih autonomnih radnji.

Pitanje stoga više nije samo koliko će sposobna biti sljedeća generacija umjetne inteligencije, već hoće li razvoj sigurnosnih mehanizama uopće moći pratiti njezin tempo.