La sobrecarga de contenido artificial está inundando las redes sociales y generando una resistencia cada vez más vocal.

La imagen que finalmente convenció al joven parisino Théodore de que algo andaba muy mal en las redes sociales era claramente falsa. Mostraba a dos niños del sur de Asia demacrados, con barbas extrañas y extremidades amputadas, celebrando un cumpleaños en medio de una calle transitada bajo una lluvia torrencial. A pesar de las evidentes señales de que era una imagen generada por IA, ha acumulado casi un millón de "me gusta" en Facebook.

“Estaba completamente confundido.", dice el estudiante de 20 años."Imágenes absurdas, creadas artificialmente, están por todas partes y reciben mucha atención sin ninguna verificación.Así nació su cuenta en la red X, "Insane AI Slop", donde comenzó a advertir y burlarse del contenido falso y de baja calidad que engaña a los usuarios. En pocos meses, acumuló más de 130.000 seguidores.

¿Qué es el relleno de contenido artificial?

La expresión "Bazofia de IA"" se utiliza para imágenes y vídeos generados rápidamente, a menudo ilógicos y de baja calidad por inteligencia artificial, que, sin embargo, se vuelven virales. En este artículo, llamaremos a este fenómeno "contenido artificial desordenado": contenido creado principalmente con el fin de atraer la atención, en lugar de informar o expresar la creatividad.

Los temas comunes de este tipo de contenido incluyen la religión, el ámbito militar y, especialmente, historias conmovedoras de niños pobres que crean productos increíbles o experimentan milagros. Estas imágenes y vídeos explotan las emociones y los algoritmos de las redes sociales que recompensan cualquier tipo de interacción.

La tercera fase de las redes sociales

Según Mark Zuckerberg, director ejecutivo de Meta, las redes sociales han entrado en una "tercera fase". Tras un periodo de contenido de amigos y luego de creadores profesionales, ahora hay una ola de contenido creado o reutilizado por inteligencia artificial. Meta y otras plataformas no solo permiten este tipo de contenido, sino que también proporcionan herramientas para su creación masiva.

YouTube comparte una opinión similar. Su director ejecutivo, Neal Mohan, escribió que, en diciembre, más de un millón de canales utilizaban herramientas de IA para crear contenido. Reconoció la preocupación por el contenido de baja calidad, pero enfatizó que la compañía no quiere arbitrar lo que está permitido y lo que no.

Dinero, algoritmos y enojo de los usuarios

Una de las razones del auge del contenido artificial es la economía creativa. Los canales que producen este tipo de contenido pueden generar miles de millones de visualizaciones y millones en ingresos. Pero, al mismo tiempo, la resistencia también está creciendo. Cada vez aparecen más comentarios indignados bajo vídeos virales artificiales, que a veces consiguen más "me gusta" que el propio contenido.

Théodore ha presionado a YouTube para que elimine algunos canales particularmente controvertidos que publicaban dibujos animados grotescos, creados artificialmente y supuestamente dirigidos a niños. Pero a pesar de las medidas individuales, la avalancha parece imparable.

¿Realmente importa si el contenido es verdadero?

Según la investigadora Emily Thorson, la respuesta depende de por qué las personas usan las redes sociales. Si es solo por entretenimiento, el criterio es simple: ¿es entretenido el contenido? Pero si los usuarios buscan información, conocimiento o un sentido de comunidad, entonces el engaño se convierte en un problema.

El problema es mayor cuando el contenido artificial no es claramente satírico, sino que se crea con la intención de engañar. Este tipo de contenido difumina la línea entre lo real y lo artificial, fomentando la confusión y la desconfianza.

La sobrecarga de contenido artificial no es un efecto secundario de la tecnología, sino una consecuencia lógica de los modelos de negocio que premian la atención a toda costa. Mientras los algoritmos impulsen la interacción, la resistencia seguirá siendo parte del mismo ciclo. La pregunta ya no es si la IA saturará las redes sociales, sino si los usuarios, las plataformas y los reguladores encontrarán la manera de separar la creatividad del desorden digital.