Vodilna podjetja se strinjajo z zaščitnimi ukrepi za obvladovanje umetne inteligence

Bela hiša je sporočila, da se je sedem vodilnih podjetij na področju umetne inteligence zavezalo k obvladovanju tveganj, ki jih predstavlja nova tehnologija.

To bo vključevalo testiranje varnosti umetne inteligence in javno objavo rezultatov teh testov.

Predstavniki podjetij Amazon, Anthropic, Google, Inflection, Meta, Microsoft in OpenAI so se pridružili ameriškemu predsedniku Joeju Bidnu pri objavi sodelovanja.

Hitrost, s katero podjetja razvijajo svoja orodja, je spodbudila strah pred širjenjem dezinformacij, zlasti v času pred predsedniškimi volitvami v ZDA leta 2024.

»Moramo biti jasni in pozorni na grožnje, ki izhajajo iz nastajajočih tehnologij, ki lahko predstavljajo – ni nujno, ampak lahko predstavljajo – tveganje za demokracijo in naše vrednote,« je med petkovim govorom dejal predsednik Joe Biden.

Prejšnji teden je tudi Meta, matična družba Facebooka, objavila lastno orodje AI, imenovano Llama 2.

Kot del sporazuma, podpisanega v petek, so se podjetja in ameriška vlada dogovorili za:

• Varnostno testiranje njihovih sistemov AI s strani notranjih in zunanjih strokovnjakov pred njihovo izdajo
• Zagotavljanje, da lahko ljudje opazijo AI vsebino z uvedbo vodnih žigov
• Redno javno poročanje o zmogljivostih in omejitvah AI
• Raziskovanje tveganj, kot so pristranskost, diskriminacija in vdor v zasebnost

Cilj je, da bi bilo ljudem enostavno ugotoviti, kdaj spletno vsebino ustvari umetna inteligenca.

Vodni žigi za vsebino, ustvarjeno z umetno inteligenco, so bile med temami, o katerih je evropski komisar Thierry Breton razpravljal z izvršnim direktorjem OpenAI Samom Altmanom med junijskim obiskom v San Franciscu.

»Veselim se nadaljevanja naših razprav – zlasti o vodnem žigu,« je Breton zapisal v tvitu, ki je vseboval izrezek videa njega in gospoda Altmana.

V videoposnetku je gospod Altman dejal, da bi »zelo kmalu rad pokazal«, kaj OpenAI počne z vodnimi žigi.

Prostovoljni zaščitni ukrepi, podpisani v petek, so korak k strožji ureditvi umetne inteligence v ZDA.

Bela hiša je dejala, da bo sodelovala tudi z zavezniki pri vzpostavitvi mednarodnega okvira za upravljanje razvoja in uporabe umetne inteligence. Opozorila o tehnologiji vključujejo, da bi jo lahko uporabili za ustvarjanje dezinformacij in destabilizacijo družbe ter da bi lahko predstavljala eksistencialno tveganje za človeštvo – čeprav so nekateri strokovnjaki dejali, da so apokaliptična opozorila pretirana.

Tudi Evropa pripravlja svoj akt o umetni inteligenci, ki bo veljal za vse, ki razvijajo in uvajajo sisteme umetne inteligence v EU. Ima kar nekaj podobnosti z novim ameriškim paktom o sodelovanju. Obseg regulacije je odvisen od tveganj, ki jih ustvarja posamezna aplikacija, od minimalnih do »nesprejemljivih«. Sistemi, ki spadajo v slednjo kategorijo, so popolnoma prepovedani. Ti vključujejo sisteme za prepoznavanje obraza v realnem času v javnih prostorih, prediktivna policijska orodja in socialne sisteme točkovanja, podobnim tistim na Kitajskem, ki ljudem dodelijo »rezultat« na podlagi njihovega vedenja.

Zakonodaja določa tudi stroge omejitve za »visoko tvegane« aplikacije AI, ki so tiste, ki ogrožajo »znatno škodo za zdravje ljudi, varnost, temeljne pravice ali okolje.«

Ti vključujejo sisteme, ki se uporabljajo za vplivanje na volivce na volitvah, kot tudi platforme družbenih medijev z več kot 45 milijoni uporabnikov, ki priporočajo vsebino svojim uporabnikom – seznam, ki bi vključeval Facebook, Twitter, Instagram in tudi najnovejši Threads.

Zakon tudi opisuje zahteve glede preglednosti sistemov umetne inteligence.

Na primer, sistemi, kot je ChatGPT, bi morali razkriti, da je bila njihova vsebina ustvarjena z umetno inteligenco, razlikovati globoko ponarejene slike od resničnih in zagotoviti zaščito pred ustvarjanjem nezakonite vsebine.

Umetna inteligenca je pritegnila ogromno pozornosti, pozitivne in negativne. Dobra novica je, da so se vlade in podjetja zgodaj odzvala na številne pomisleke javnosti in preventivno začela z regulacijo.

Naslovna slika: Image by jcomp on Freepik