La surabondance de contenu artificiel inonde les réseaux sociaux et suscite une résistance de plus en plus bruyante.

L'image qui a finalement convaincu le jeune Parisien Théodore que les réseaux sociaux posaient un grave problème était manifestement un montage. On y voyait deux enfants sud-asiatiques émaciés, affublés de barbes étranges et de membres manquants, fêtant un anniversaire en pleine rue, sous une pluie battante. Malgré les signes évidents d'une génération par intelligence artificielle, l'image a récolté près d'un million de « j'aime » sur Facebook.

“J'étais complètement perdu.« », dit l’étudiant de 20 ans. « Les images absurdes et artificielles sont omniprésentes et suscitent beaucoup d'attention sans aucune vérification.C’est ainsi que naquit son compte X-network, « Insane AI Slop », où il commença à dénoncer et à ridiculiser les contenus mensongers et de mauvaise qualité qui induisent les utilisateurs en erreur. En quelques mois, il rassembla plus de 130 000 abonnés.

Qu'est-ce que le remplissage artificiel de contenu ?

L'expression "IA bâcléeL’expression « contenu artificiel » désigne des images et des vidéos créées rapidement, souvent illogiques et de piètre qualité, générées par l’intelligence artificielle et qui, malgré tout, deviennent virales. Dans cet article, nous appellerons ce phénomène « contenu artificiel saturé » : un contenu créé principalement dans le but d’attirer l’attention, plutôt que d’informer ou de permettre une expression créative.

Ces contenus abordent souvent des thèmes comme la religion, l'armée et surtout des histoires « émouvantes » d'enfants pauvres créant des objets incroyables ou vivant des miracles. Ces images et vidéos exploitent les émotions et les algorithmes des réseaux sociaux qui valorisent toute forme d'interaction.

La troisième phase des réseaux sociaux

Selon Mark Zuckerberg, PDG de Meta, les réseaux sociaux sont entrés dans une « troisième phase ». Après une période dominée par les contenus partagés par les amis, puis par les créateurs professionnels, on assiste aujourd'hui à une vague de contenus créés ou réutilisés par l'intelligence artificielle. Meta et d'autres plateformes permettent non seulement la diffusion de ces contenus, mais fournissent également des outils pour leur production en masse.

YouTube partage un avis similaire. Son PDG, Neal Mohan, a écrit qu'en décembre, plus d'un million de chaînes utilisaient des outils d'IA pour créer du contenu. Il a reconnu les inquiétudes concernant la faible qualité des contenus, mais a souligné que l'entreprise ne souhaite pas dicter ce qui est autorisé ou non.

Argent, algorithmes et colère des utilisateurs

L'essor des contenus artificiels s'explique notamment par l'économie créative. Les chaînes qui produisent ce type de contenu peuvent générer des milliards de vues et des millions de revenus. Mais parallèlement, la résistance se développe. Les commentaires indignés se multiplient sous les vidéos virales créées par l'intelligence artificielle, récoltant parfois plus de « j'aime » que le contenu lui-même.

Théodore a fait pression sur YouTube pour que certaines chaînes particulièrement controversées diffusent des dessins animés grotesques, créés artificiellement et censés être destinés aux enfants. Mais malgré ces mesures individuelles, le phénomène semble incontrôlable.

Est-ce vraiment important que le contenu soit vrai ?

Selon la chercheuse Emily Thorson, la réponse dépend des raisons pour lesquelles les gens utilisent les réseaux sociaux. Si c'est uniquement pour se divertir, le critère est simple : le contenu est-il divertissant ? Mais si les utilisateurs recherchent des informations, des connaissances ou un sentiment d'appartenance à une communauté, alors la désinformation devient problématique.

Le problème est particulièrement aigu lorsque le contenu artificiel n'est pas clairement satirique, mais créé dans une intention de tromper. Ce type de contenu brouille la frontière entre le réel et l'artificiel, engendrant confusion et méfiance.

La surabondance de contenu artificiel n'est pas un effet secondaire de la technologie, mais une conséquence logique des modèles économiques qui valorisent l'attention à tout prix. Tant que les algorithmes piloteront l'engagement, la résistance fera partie intégrante de ce même cycle. La question n'est plus de savoir si l'IA submergera les réseaux sociaux, mais si les utilisateurs, les plateformes et les autorités de régulation parviendront à dissocier la créativité du brouhaha numérique.