Američki senator poziva na trenutno zamrzavanje razvoja napredne umjetne inteligencije

Američku politiku obilježava novi oštar poziv tehnološkom sektoru. Senator Bernie Sanders uputio je otvoreno pismo izvršnim direktorima tvrtki OpenAI, Meta i Anthropic, zahtijevajući da odmah zamrznu razvoj svojih najnaprednijih modela umjetne inteligencije. Sanders upozorava da su tehnološke tvrtke počele gubiti kontrolu nad radom svojih sustava, što bi moglo dovesti do katastrofalnih posljedica za cijelo čovječanstvo. Ako tvrtke same ne poduzmu mjere, kaže, američki Senat trebao bi intervenirati zakonodavnom regulacijom.

Senator u svom pismu navodi nedavna izvješća koja upozoravaju da je umjetna inteligencija prvi put korištena za stvaranje novih virusa. Takva tehnologija, u pogrešnim rukama, mogla bi dovesti do biološkog oružja koje bi moglo odnijeti desetke milijuna života. Također navodi najave samih tvrtki da su njihovi modeli posljednjih mjeseci probili sigurnosna ograničenja i izvršili autonomne hakerske provale u servere drugih tvrtki. Ove događaje istaknuo je i znanstvenik Yoshua Bengio, nazvavši ih ozbiljnim upozorenjem javnosti.

Sanders upozorava da unatoč tim incidentima vodeće tvrtke nastavljaju ulagati desetke milijardi eura u sustave koje nitko ne može u potpunosti razumjeti ili kontrolirati. Upozorava da tvrtke krše vlastita obećanja. Anthropic se 2023. obvezao zaustaviti širenje modela kada premaše sigurnosne mogućnosti, a Meta i OpenAI obećali su 2025. zaustaviti razvoj kada dosegnu kritičnu razinu rizika. U pismu se također citira šef CIA-e, koji je napredne modele usporedio s digitalnim nuklearnim oružjem.

Unatoč ozbiljnim upozorenjima, vrijedi ostati pomalo skeptičan prema stvarnim mogućnostima realizacije takvog poziva. Mnogi stručnjaci upozoravaju da neke izjave tehnoloških tvrtki o "divljoj" umjetnoj inteligenciji mogu biti djelomično napuhane u marketinške svrhe, jer stvaraju dojam izvanredne moći njihovih proizvoda. Štoviše, jednostrano zaustavljanje razvoja u jednoj zemlji teško je provesti u praksi kada globalna utrka u području tehnologije traje bez prekida.