Kitajska bo poskušala preprečiti uporabo tehnologije za izdelavo lažnih posnetkov

V zadnjem času beremo več novic kot kdaj koli prej v zgodovini človeštva, vendar pa se ob tem poraja vprašanje, koliko od teh je sploh resničnih? Vse več raziskav kaže na to, da je lažnih novic kar precej, zato moramo prej dvakrat temeljito premisliti, preden se odločimo, da bomo novici na družbenem omrežju verjeli. Številni raziskovalci pa so že pred časom dokazali, da tako kot novicam tudi videoposnetkom ne smemo več slepo zaupati. Mnoga podjetja so namreč že razvila namenske algoritme, ki jih je mogoče uporabiti za spreminjanje dejanskih izjav oseb na videoposnetkih.

Sistem za izdelovanje lažnih videoposnetkov (angleško deepfake) dejansko temelji na posebnem algoritmu, ki najprej prouči množico videoposnetkov visoke ločljivosti Nato napreden algoritem s pomočjo umetne inteligence poveže že slišane in videne besede v poljubne kombinacije, in sicer na način, da to končni uporabnik ne zazna. Poleg tega za nameček sistem omogoča še poljubno spreminjanje mimike obraza, kar videoposnetku še dodatno poveča kredibilnost.

Ker izdelovanje lažnih videoposnetkov lahko predstavlja celo tveganje za varnost države, je kitajska agencija za spletno varnost Cyberspace Administration of China (CAC) objavila nova pravila v zvezi z video in avdio vsebinami, ki se objavljajo na internetu, zlasti tiste, povezane s tehnologijo deepfake. Nova pravila velevajo, da morajo biti lažni posnetki na spletu jasno označeni. V nasprotnem primeru bo šlo tu za kaznivo dejanje, ki bo predmet kazenske ovadbe in pregona s strani policije. Številni strokovnjaki so prepričani, da bodo enak ukrep kmalu morale sprejeti tudi druge države širom sveta, saj gre pri izdelavi lažnih videoposnetkov za resnično tveganje z nepredvidljivimi posledicami.