Napredna umetna inteligenca pomeni veliko tveganje

Umetna inteligenca je sposobna igrati šah, voziti avtomobile in pacientu postaviti diagnozo. Med najbolj znane primere štejemo Google DeepMind AlphaGo, Teslina samovozeča vozila in IBM-ov Watson. Ta vrsta umetne inteligence se imenuje tudi “Artificial Narrow Intelligence” (ANI) – gre za nečloveške sisteme, ki so sposobni izvesti določene naloge in opravila. Tovrstno umetno inteligenco lahko srečamo na vsakem koraku, in njena raba se iz dneva v dan povečuje.

Ne glede na vse impresivne sposobnosti umetne inteligence, pa vsake toliko naletimo na težave, ki so po navadi velikih razsežnosti. Se še spomnite enega od testiranj samovozečega vozila, ki je marca zbilo peško, ki je potem umrla? Nesrečo še vedno preiskujejo, ampak debate glede tovrstnih težav kar potihnejo.

Nova generacija umetne inteligence

S prihodom naslednje generacije umetne inteligence bodo vložki še večji, tveganja pa prav tako. “Artificial General Inteligence” (AGI) bo ponujala napredne računalniške zmogljivosti in človeško raven inteligence. AGI sistemi se bodo sposobni učiti, znali bodo reševati kompleksne probleme, poleg tega pa se bodo prilagajali in izboljševali kar sami.

Sposobni bodo opravljati celo naloge, za katere niso bili dizajnirani. Kar je zelo pomembno je to, da se bo po vsej verjetnosti hitrost njihovega razvoja povečala eksponentno, saj bodo postali veliko bolj napredni od svojih človeških kreatorjev. Prihod AGI bi lahko hkrati pomenil tudi začetek nove generacije umetne inteligence “Artificial Super Intelligence” (ASI).

Medtem, ko v celoti delujočih AGI sistemov še nimamo, bi naj ti po ocenah strokovnjakov na sceno stopili po letu 2029. Kot vse kaže bodo ti sistemi slej ko prej med nami, zato obstaja velika bojazen, da jih ljudje ne bomo znali nadzirati oz. upravljati.

Tveganja povezana z AGI sistemi

Brez dvoma imajo AGI sistemi možnost, da popolnoma spremenijo človeštvo. Najbolj glomazne aplikacije ciljajo predvsem na zdravljenje bolezni, reševanje kompleksnih globalnih izzivov, kot so klimatske spremembe in lakota, poleg tega pa ne smemo pozabiti še na novi “bum” na področju tehnologije, ki naj bi sledil.

Na drugi strani se moramo zavedati, da bi lahko napake pri implementaciji primernega nadzora in primerne regulative vodile v katastrofalne posledice. Kljub temu, kar gledamo v filmih, ne govorimo o morilskih robotih ali čemerkoli podobnem.

“Problem bo nastal na strani inteligence”, je v svoji knjigi, Life 3.0: Being Human in the Age of Artificial Intelligence, zapisal profesor na MIT-ju Max Tegmark. Na tej točki bo pomembno vlogo odigrala znanost človeško-strojnih sistemov. Tveganja se bodo pojavila na točki, ko bodo super inteligentni sistemi sami identificirali bolj učinkovite načine opravljanja nalog, sami generirali strategije za različne aktivnosti doseganja ciljev ter celo sami razvili lastne cilje.

Predstavljajte si naslednje scenarije:

– AGI sistem, ki ima nalogo, da prepreči HIV, se odloči, da ubije vse, ki so okuženi z dotično boleznijo; ali pa sistem, ki ima nalogo, da pozdravi vse bolnike z rakom, se odloči, da ubije vse, ki imajo kakršnokoli genetsko predispozicijo za to;

– avtonomni AGI vojaški dron se odloči, da je edini način, kako zagotoviti, da so uničene vse sovražnikove tarče ta, da izbriše celotno skupnost;

– AGI sistem z nalogo, da ščiti naravo, se odloči, da je edini način, kako upočasniti ali spremeniti klimatske spremembe ta, da odstrani vso tehnologijo ali ljudi, ki povzročajo klimatske spremembe.

Zgoraj opisani scenariji so vsi del različnih distopičnih variant prihodnosti, v katerih lahko najdemo celo scenarije, kjer ljudje postanemo nepotrebni in potencialno ogroženi pred izumrtjem. Nekoliko manj negativni in brutalni scenariji vsebujejo uporabo AGI sistemov za teroristične in kiber napade, potem napovedovanja o nadomeščanju ljudi z roboti in stroji, eden od scenarijev pa je tudi masovni nadzor na ljudmi.

Torej, dejstvo in nuja je, da se s pomočjo človeško usmerjenih preiskav naredijo načrti za karseda varne prakse in upravljanje AGI sistemov, s katerimi bi minimizirali tveganja in po drugi strani skušali maksimizirati prednosti.

Kako nadzirati AGI?

Nadzor na AGI ni tako enostaven, kot se morda zdi, definitivno pa ni niti približno enako kot nadziranje ljudi. To temelji na našem zavedanju, naših čustvih in aplikacijah moralnih vrednot. AGI ne bo potrebovala nobenega od naštetih atributov, da bi povzročila škodo. Trenutni načini nadzora ne bodo zadostovali.

Trenutno poznamo tri sete nadzora, ki zahtevajo razvoj in takojšnje testiranje:

– nadzor nad dizajnerji in razvijalci AGI sistemov, ki bodo primorani zagotoviti varne AGI sisteme;

– nadzor, ki mora biti vgrajen v AGI sisteme kot take, kot recimo “zdrav razum”, morala, operativni postopki, odločitve na podlagi pravil itd.;

– nadzor, ki mora biti dodan v širši sistem, znotraj katerega bo AGI delovala, kot recimo regulacija, kodeksi, standardni postopki, sistemi monitoringa in infrastruktura.

Znanost človeških faktorjev in ergonomije nudi metode, ki jih lahko uporabimo za identificiranje, dizajn in testiranje tovrstnih metod nadzora še veliko pred prihodom AGI sistemov. Možno je na primer narediti model nadzora, ki bo v nekem sistemu, in ki bo oponašal dejansko delovanje nekega AGI sistema. Tovrstno testiranje nam lahko pokaže točke, kjer je še potrebno poostriti nadzor, spremeniti do sedaj uporabljene metode itd.

Ukrepati je potrebno zdaj in ne pozneje

Raziskovanje zgoraj opisanega področja je sicer v teku, vendar še zdaleč tega raziskovanja ni dovolj, poleg tega pa vanj ni vključeno dovolj različnih disciplin, ki bodo igrale pomembno vlogo. Verjetno se še spomnite Elona Muska, ki je že pred časom opozoril na “eksistenčno krizo”, ki preti človeštvu pred napredno umetno inteligenco. Tako kot je opozoril že sam, je potrebna regulacija umetne inteligence, še preden bo prepozno.

Naslednje desetletje ali nekoliko več predstavlja kritično obdobje. Imamo priložnost za to, da ustvarimo varne in učinkovite AGI sisteme, ki imajo potencial za pozitivne učinke na celotno družbo in človeštvo. Hkrati pa tako kot vedno hitimo z velikimi tehnološkimi inovacijami, ki lahko posledično vodijo v propad človeštva. Odločitev je na naši strani, vendar ne za dolgo.