Umetna vsebinska navlaka preplavlja družbena omrežja in sproža vse glasnejši odpor

Slika, ki je mladega Parižana Théodora dokončno prepričala, da je z družbenimi omrežji nekaj zelo narobe, je bila očitno umetna. Prikazovala je dva shujšana južnoazijska otroka z nenavadnimi bradami in manjkajočimi okončinami, ki sta sredi prometne ceste v nalivu slavila rojstni dan. Kljub očitnim znakom, da gre za z umetno inteligenco ustvarjeno podobo, je na Facebooku zbrala skoraj milijon všečkov.

“Popolnoma me je zmedlo,” pravi 20-letni študent. “Absurdne, umetno ustvarjene podobe so povsod, brez vsakršnega preverjanja pa dobivajo ogromno pozornosti.” Tako je nastal njegov račun na omrežju X z imenom “Insane AI Slop”, kjer je začel opozarjati in se norčevati iz lažnih, nekakovostnih vsebin, ki zavajajo uporabnike. V nekaj mesecih je zbral več kot 130.000 sledilcev.

Kaj je umetna vsebinska navlaka?

Izraz “AI slop” se uporablja za hitro ustvarjene, pogosto nelogične in nizkokakovostne slike ter videe, ki jih generira umetna inteligenca in ki kljub temu postanejo viralni. V tem članku bomo ta pojav poimenovali umetna vsebinska navlaka – vsebine, ustvarjene predvsem z namenom pritegovanja pozornosti, ne pa informiranja ali ustvarjalnega izraza.

Pogoste teme takšnih vsebin so religija, vojska in zlasti “ganljive” zgodbe o revnih otrocih, ki ustvarjajo neverjetne izdelke ali doživljajo čudeže. Takšne podobe in videi izkoriščajo čustva in algoritme družbenih omrežij, ki nagrajujejo vsako obliko angažmaja.

Tretja faza družbenih omrežij

Po besedah izvršnega direktorja Mete Marka Zuckerberga so družbena omrežja vstopila v “tretjo fazo”. Po obdobju vsebin prijateljev in nato profesionalnih ustvarjalcev zdaj prihaja val vsebin, ki jih ustvarja ali predeluje umetna inteligenca. Meta in druge platforme ne le dopuščajo takšne vsebine, temveč ponujajo orodja za njihovo množično ustvarjanje.

Podoben pogled ima tudi YouTube. Njegov direktor Neal Mohan je zapisal, da je decembra več kot milijon kanalov uporabljalo UI orodja za ustvarjanje vsebin. Ob tem priznava skrbi glede nizkokakovostnih vsebin, a poudarja, da podjetje ne želi arbitrirati, kaj je dovoljeno in kaj ne.

Denar, algoritmi in jeza uporabnikov

Eden od razlogov za razmah umetne vsebinske navlake je ustvarjalna ekonomija. Kanali, ki proizvajajo takšne vsebine, lahko zberejo milijarde ogledov in milijonske prihodke. A hkrati se krepi tudi odpor. Pod viralnimi umetnimi videi se vse pogosteje pojavljajo jezni komentarji, ki včasih zberejo več všečkov kot sama vsebina.

Théodore je s pritiskom dosegel, da je YouTube odstranil nekatere posebej sporne kanale, ki so objavljali groteskne umetno ustvarjene risanke, domnevno namenjene otrokom. A kljub posameznim ukrepom se zdi poplava nezaustavljiva.

Ali je sploh pomembno, ali je vsebina resnična?

Po mnenju raziskovalke Emily Thorson je odgovor odvisen od tega, zakaj ljudje uporabljajo družbena omrežja. Če gre zgolj za zabavo, je merilo preprosto: ali je vsebina zabavna. Če pa uporabniki iščejo informacije, znanje ali občutek skupnosti, postane zavajanje problematično.

Težava je največja tam, kjer umetna vsebinska navlaka ni očitno satirična, temveč je ustvarjena z namenom prevare. Takšne vsebine brišejo mejo med resničnim in umetnim ter spodbujajo zmedo in nezaupanje.

Umetna vsebinska navlaka ni stranski učinek tehnologije, temveč logična posledica poslovnih modelov, ki nagrajujejo pozornost za vsako ceno. Dokler bodo algoritmi spodbujali angažma, bo tudi odpor del istega kroga. Vprašanje ni več, ali bo umetna inteligenca preplavila družbena omrežja, temveč, ali bodo uporabniki, platforme in regulatorji našli način, kako ločiti ustvarjalnost od digitalnega balasta.