I video deepfake rappresentano una minaccia per il grande pubblico

La domanda è quante persone si sono rese conto troppo tardi che si trattava di una truffa, ma temiamo che sia un numero molto alto.

Le registrazioni deepfake esistevano anche prima dell'avvento dell'intelligenza artificiale nella forma in cui la conosciamo oggi (ChatGPT, Bard, Bing, Midjourney...). Ma con l’avvento di grandi modelli linguistici, queste registrazioni sono diventate spaventosamente realistiche. Era solo questione di tempo prima che i miscredenti utilizzassero questa tecnologia avanzata per scopi malvagi.

Hanno scelto il miglior obiettivo possibile. MrBeast è noto per i suoi stravaganti video su YouTube in cui delizia i suoi fan e i passanti con auto costose, jet privati, telefoni, case e regali simili. Anche uno scenario in cui MrBeast regala iPhone 15 quasi gratuiti non è troppo insolito. Ci hanno scommesso anche i malintenzionati. Il finto MrBeast esortava gli spettatori a cliccare su un collegamento presente nella clip, ma dietro le quinte c'era l'intento di rubare dati.

Un video deepfake di MrBeast è recentemente emerso su TikTok, dove probabilmente ha causato danni ingenti, non solo agli utenti, ma anche alla piattaforma, che ora sarà alle prese con domande su come prevenirlo in futuro.

MrBeast non è l'unica vittima delle truffe legate all'intelligenza artificiale. Anche l'immagine di Putin è stata utilizzata in modo improprio in passato per diffondere informazioni false.

Sebbene le celebrità siano obiettivi più attraenti, anche i comuni mortali sono a rischio. Anche i giornalisti della BBC Matthew Amroliwala e Sally Bundock lo hanno sperimentato in prima persona. La loro immagine è stata utilizzata per promuovere una truffa finanziaria. Nel video, il giornalista dovrebbe essere ospitato dal più ricco terrestre, Elon Musk, che dovrebbe interrogarlo sull'opportunità di investimento apparentemente più redditizia del momento. Anche Elon Musk è stato vittima in passato di video deepfake, in cui avrebbe regalato la sua ricchezza e dato consigli sulle criptovalute.

Finora Meta (ex Facebook) allegava a tali video avvertimenti su possibili informazioni false, che sono state scoperte dall'organizzazione FullFact. Quest'ultimo si è posto la missione di verificare tutte le possibili irregolarità che compaiono nelle notizie e sui social media. È intervenuto anche un rappresentante di Meta. “Non consentiamo tali contenuti sulle nostre piattaforme e li abbiamo rimossi immediatamente. Lavoriamo costantemente per migliorare i nostri sistemi e incoraggiare chiunque veda contenuti che ritiene violino le nostre norme a segnalarli utilizzando gli strumenti in-app. Poi potremo studiarlo e agire."

Javil se je tudi TikTok, ki je lažni posnetek MrBeasta odstranil nekaj ur po objavi in blokiral račun, ki je kršil njihove pogoje uporabe. TikTok ima v svojem pravilniku tovrstne »sintetične« posnetke izpostavljene kot prepovedano vsebino.

Il vero MrBeast, nel frattempo, ha invitato la piattaforma X (ex Twitter) e altre piattaforme a rispondere alla domanda se sono preparate all'aumento di tali truffe.

Come identificare le registrazioni deepfake?

Anche se per ora gli attacchi di phishing classici e gli attacchi ransomware rimangono le forme di attacco più comuni e anche quelle di maggior successo, è probabile che arriverà un periodo in cui i deepfake e gli attacchi di intelligenza artificiale diventeranno più comuni.

Recentemente anche Tom Hanks ha dovuto difendersi a causa dell'intelligenza artificiale. La sua immagine è stata rubata per promuovere un controverso piano dentale.

I sistemi di intelligenza artificiale diventeranno solo più avanzati. Con lo sviluppo, aumenteranno le preoccupazioni su come riconoscere tali truffe. La regola d'oro è diffidare se ti imbatti in un video, un post o un messaggio in cui qualcuno ti offre qualcosa gratuitamente, soprattutto se si tratta di un prodotto o servizio che solitamente richiede importi maggiori.

L’immagine di MrBeast svaluta un po’ questa regola. Proprio a causa dei suoi video, in cui i partecipanti competono anche per premi interessanti, il suddetto video deepfake era difficilmente riconoscibile come truffa.

Non abbiamo altra scelta che stare sempre attenti e controllare in anticipo ogni informazione. Gli utenti più attenti noteranno anche altri segnali sospetti che potrebbero indicare che si tratta di una truffa.

Nella clip di MrBeast (potete guardarla su bit.ly/DeepfakeRN), gli aggressori hanno incluso il nome di un famoso YouTuber con il segno di spunta blu a cui siamo abituati dai profili ufficiali. Se sei un utente abituale di TikTok, sai che questo tipo di posizionamento del nome non è necessario poiché tutti i video includono già il nome dell'autore del caricamento sotto il logo TikTok.

V primeru novinarjev BBC-ja so bili razlogi za sumničavost bolj slovnične narave. Voditeljica napačno izgovori številko 15 in z nenavadno intonacijo izgovori besedo »project«. Prisotnih je še nekaj manjših slovničnih napak, ki pa jih lahko zelo hitro zgrešite (na primer napačna raba »was, were«). Ker bodo posnetki sčasoma postajali vse bolj realistični, bodo tovrstne napake pomembne za prepoznavo prevar. V istem posnetku se zelo težko opazi, da je Elon Musk dobil dodatno oko nad svojim levim očesom. Oči, prsti in podobne podrobnosti so pri posnetkih z umetno inteligenco pogosto iznakažene, za nas pa to predstavlja priložnost, da se izognemo katastrofi.

Oglasili so se tudi pravni strokovnjaki, ki so deljenega mnenja glede prepovedi tovrstnih posnetkov. V primeru, da bi prepovedali deepfake tehnologijo, bi oškodovali tudi pristno vsebino v filmih in serijah, ustvarjeno s posebnimi učinki.

Immagine di copertina: Image by rawpixel.com su Freepik