社交媒体上充斥着大量人工合成内容，引发了越来越强烈的抵制情绪。

最终让年轻的巴黎人西奥多确信社交媒体出了严重问题的，是一张明显造假的图片。图片上，两个骨瘦如柴的南亚裔儿童，留着怪异的胡须，肢体残缺，在瓢泼大雨中，于繁忙的马路中央庆祝生日。尽管有明显的迹象表明这是一张人工智能生成的图片，但它在Facebook上却获得了近百万个赞。

“我当时完全懵了。“，”这位20岁的学生说道。荒谬的、人为捏造的图片随处可见，它们未经任何核实就获得了大量关注。于是，他的X网络账号“疯狂AI垃圾”（Insane AI Slop）诞生了，他开始在这个账号上警告和嘲讽那些误导用户的虚假、低质量内容。短短几个月内，他就积累了超过13万的粉丝。

什么是人工填充内容？

表达式“人工智能斜坡“病毒式传播”指的是人工智能快速生成、往往缺乏逻辑且质量低劣的图片和视频，但它们却能迅速走红。在本文中，我们将这种现象称为“人工内容垃圾”——这类内容的主要目的是为了吸引眼球，而不是为了传递信息或进行创意表达。

此类内容的常见主题包括宗教、军事，尤其是那些讲述贫困儿童创造出令人惊叹的产品或经历奇迹的“感人”故事。这类图片和视频利用了人们的情感，并迎合了社交媒体算法的奖励机制，鼓励用户参与互动。

社交网络的第三阶段

据 Meta 首席执行官马克·扎克伯格称，社交媒体已进入“第三阶段”。在经历了朋友分享内容和专业创作者内容的阶段之后，如今人工智能正在创造或重新利用内容，掀起了一股内容创作或再创作的浪潮。Meta 和其他平台不仅允许此类内容的出现，还提供了大规模创作此类内容的工具。

YouTube也持类似观点。其首席执行官尼尔·莫汉(Neal Mohan)曾撰文指出，截至去年12月，已有超过一百万个频道使用人工智能工具创作内容。他承认人们对低质量内容存在担忧，但强调公司无意干预内容的合法性。

金钱、算法和用户愤怒

人工内容兴起的原因之一是创意经济。制作此类内容的频道可以获得数十亿的点击量和数百万美元的收入。但与此同时，抵制情绪也在增长。在病毒式传播的人工视频下方，愤怒的评论越来越多，有时甚至比视频本身获得的点赞数还要多。

西奥多曾向YouTube施压，要求其删除一些极具争议的频道，这些频道发布怪诞的、人为制作的、据称面向儿童的卡通片。但尽管采取了这些措施，这种现象似乎仍无法遏制。

内容是否真实真的重要吗？

研究员艾米丽·索尔森认为，答案取决于人们使用社交媒体的目的。如果纯粹是为了娱乐，那么标准很简单：内容是否有趣？但如果用户是为了获取信息、知识或寻求社群归属感，那么欺骗就成了一个问题。

问题最严重的地方在于，这些虚假内容并非明显带有讽刺意味，而是出于欺骗目的而创作的。这类内容模糊了真实与虚假之间的界限，加剧了混乱和不信任。

人工智能内容过载并非技术的副作用，而是不惜一切代价追求用户注意力的商业模式的必然结果。只要算法驱动用户参与，抵制就会成为这一循环的一部分。问题不再是人工智能是否会淹没社交媒体，而是用户、平台和监管机构能否找到方法，将创意与数字垃圾区分开来。