Il sovraccarico di contenuti artificiali sta inondando i social media e scatenando una resistenza sempre più forte

L'immagine che ha finalmente convinto il giovane parigino Théodore che qualcosa non andava nei social media era chiaramente falsa. Mostrava due bambini sud-asiatici emaciati, con strane barbe e arti mancanti, che festeggiavano un compleanno in mezzo a una strada trafficata sotto la pioggia battente. Nonostante gli evidenti segnali che si trattasse di un'immagine generata dall'intelligenza artificiale, ha accumulato quasi un milione di "Mi piace" su Facebook.

“Ero completamente confuso."," dice lo studente ventenne. "Immagini assurde e create artificialmente sono ovunque e ricevono molta attenzione senza alcuna verifica.” Così è nato il suo account X-network chiamato "Insane AI Slop", dove ha iniziato a mettere in guardia e a deridere contenuti falsi e di bassa qualità che ingannano gli utenti. In pochi mesi, ha accumulato più di 130.000 follower.

Cos'è il riempimento artificiale dei contenuti?

L'espressione "Slop di intelligenza artificiale" viene utilizzato per immagini e video creati rapidamente, spesso illogici e di bassa qualità, generati dall'intelligenza artificiale, che tuttavia diventano virali. In questo articolo, chiameremo questo fenomeno "disordine di contenuti artificiali": contenuti creati principalmente allo scopo di attirare l'attenzione, piuttosto che di informare o esprimere la propria creatività.

I temi comuni di tali contenuti includono la religione, l'esercito e, in particolare, le storie "toccanti" di bambini poveri che creano prodotti incredibili o sperimentano miracoli. Queste immagini e video sfruttano le emozioni e gli algoritmi dei social media che premiano qualsiasi forma di coinvolgimento.

La terza fase dei social network

Secondo Mark Zuckerberg, CEO di Meta, i social media sono entrati in una "terza fase". Dopo un periodo di contenuti di amici e poi di creatori professionisti, ora si assiste a un'ondata di contenuti creati o riadattati dall'intelligenza artificiale. Meta e altre piattaforme non solo consentono la creazione di tali contenuti, ma forniscono anche gli strumenti per la loro creazione di massa.

YouTube condivide un'opinione simile. Il suo CEO, Neal Mohan, ha scritto che a dicembre più di un milione di canali utilizzavano strumenti di intelligenza artificiale per creare contenuti. Ha riconosciuto le preoccupazioni relative ai contenuti di bassa qualità, ma ha sottolineato che l'azienda non vuole fare da arbitro su cosa sia consentito e cosa no.

Soldi, algoritmi e rabbia degli utenti

Uno dei motivi dell'ascesa dei contenuti artificiali è l'economia creativa. I canali che producono tali contenuti possono generare miliardi di visualizzazioni e milioni di ricavi. Ma allo stesso tempo, cresce anche la resistenza. Commenti arrabbiati compaiono sempre più spesso sotto i video artificiali virali, a volte ottenendo più "Mi piace" del contenuto stesso.

Théodore ha fatto pressione su YouTube affinché rimuovesse alcuni canali particolarmente controversi che pubblicavano cartoni animati grotteschi e creati artificialmente, presumibilmente rivolti ai bambini. Ma nonostante le misure adottate, l'ondata sembra inarrestabile.

Ha importanza se il contenuto è vero?

Secondo la ricercatrice Emily Thorson, la risposta dipende dal motivo per cui le persone utilizzano i social media. Se si tratta di puro intrattenimento, il criterio è semplice: il contenuto è divertente? Ma se gli utenti cercano informazioni, conoscenza o un senso di comunità, allora l'inganno diventa un problema.

Il problema è maggiore quando il contenuto artificiale non è chiaramente satirico, ma è creato con l'intento di ingannare. Tali contenuti confondono il confine tra reale e artificiale, alimentando confusione e sfiducia.

Il sovraccarico di contenuti artificiali non è un effetto collaterale della tecnologia, ma una conseguenza logica di modelli di business che premiano l'attenzione a tutti i costi. Finché gli algoritmi guideranno l'engagement, la resistenza sarà parte dello stesso ciclo. La domanda non è più se l'intelligenza artificiale travolgerà i social media, ma se utenti, piattaforme e autorità di regolamentazione troveranno un modo per separare la creatività dal disordine digitale.