Eine Flut künstlicher Inhalte überschwemmt die sozialen Medien und führt zu immer lautstärkerem Widerstand.

Das Bild, das den jungen Pariser Théodore schließlich davon überzeugte, dass mit den sozialen Medien etwas ernsthaft nicht stimmte, war eindeutig gefälscht. Es zeigte zwei abgemagerte südasiatische Kinder mit seltsamen Bärten und fehlenden Gliedmaßen, die mitten auf einer vielbefahrenen Straße im strömenden Regen einen Geburtstag feierten. Trotz der offensichtlichen Anzeichen dafür, dass es sich um ein KI-generiertes Bild handelte, hat es auf Facebook fast eine Million Likes erhalten.

“Ich war völlig verwirrt.„“, sagt die 20-jährige Studentin.Absurde, künstlich erzeugte Bilder sind allgegenwärtig und erhalten viel Aufmerksamkeit ohne jegliche Überprüfung.So entstand sein X-Netzwerk-Account „Insane AI Slop“, auf dem er begann, vor gefälschten, minderwertigen Inhalten zu warnen und diese zu verspotten, die Nutzer in die Irre führen. Innerhalb weniger Monate gewann er über 130.000 Follower.

Was ist künstliche Inhaltsauffüllung?

Der Ausdruck "KI-SchrottDer Begriff „künstliche Inhaltsflut“ bezeichnet schnell erstellte, oft unlogische und qualitativ minderwertige Bilder und Videos, die von künstlicher Intelligenz generiert werden und dennoch viral gehen. In diesem Artikel nennen wir dieses Phänomen künstliche Inhaltsflut – Inhalte, die primär dazu dienen, Aufmerksamkeit zu erregen, anstatt zu informieren oder kreativen Ausdruck zu vermitteln.

Häufige Themen solcher Inhalte sind Religion, Militär und insbesondere „rührende“ Geschichten von armen Kindern, die Unglaubliches leisten oder Wunder erleben. Diese Bilder und Videos nutzen Emotionen und Social-Media-Algorithmen aus, die jede Form der Interaktion belohnen.

Die dritte Phase der sozialen Netzwerke

Laut Meta-CEO Mark Zuckerberg ist Social Media in eine „dritte Phase“ eingetreten. Nach einer Phase, in der Inhalte von Freunden und anschließend von professionellen Content-Erstellern stammten, erlebt Social Media nun eine Welle von Inhalten, die von künstlicher Intelligenz erstellt oder wiederverwendet werden. Meta und andere Plattformen ermöglichen solche Inhalte nicht nur, sondern bieten auch Werkzeuge für deren massenhafte Erstellung.

YouTube vertritt eine ähnliche Ansicht. CEO Neal Mohan schrieb, dass im Dezember bereits über eine Million Kanäle KI-Tools zur Inhaltserstellung nutzten. Er räumte Bedenken hinsichtlich minderwertiger Inhalte ein, betonte aber, dass das Unternehmen nicht darüber entscheiden wolle, was erlaubt und was verboten sei.

Geld, Algorithmen und der Ärger der Nutzer

Ein Grund für den Aufstieg künstlicher Inhalte ist die Kreativwirtschaft. Kanäle, die solche Inhalte produzieren, können Milliarden von Aufrufen und Millionenumsätze erzielen. Gleichzeitig wächst aber auch der Widerstand. Immer häufiger tauchen unter viralen, künstlich erzeugten Videos wütende Kommentare auf, die mitunter mehr Likes erhalten als der Inhalt selbst.

Théodore hat Druck auf YouTube ausgeübt, um einige besonders umstrittene Kanäle zu entfernen, die groteske, künstlich erzeugte Cartoons veröffentlichten, die angeblich für Kinder bestimmt waren. Doch trotz einzelner Maßnahmen scheint die Flut unaufhaltsam.

Spielt es überhaupt eine Rolle, ob der Inhalt wahr ist?

Laut der Forscherin Emily Thorson hängt die Antwort davon ab, warum Menschen soziale Medien nutzen. Geht es nur um Unterhaltung, ist das Kriterium einfach: Sind die Inhalte unterhaltsam? Suchen Nutzer hingegen nach Informationen, Wissen oder einem Gemeinschaftsgefühl, wird Täuschung zum Problem.

Das Problem ist am größten, wenn die künstlichen Inhalte nicht eindeutig satirisch gemeint sind, sondern mit Täuschungsabsicht erstellt wurden. Solche Inhalte verwischen die Grenze zwischen Realität und Fiktion und schüren Verwirrung und Misstrauen.

Die künstliche Informationsflut ist keine Nebenwirkung der Technologie, sondern eine logische Konsequenz von Geschäftsmodellen, die Aufmerksamkeit um jeden Preis belohnen. Solange Algorithmen die Interaktion steuern, wird auch Widerstand Teil dieses Kreislaufs sein. Die Frage ist nicht mehr, ob KI die sozialen Medien überrollen wird, sondern ob Nutzer, Plattformen und Regulierungsbehörden einen Weg finden, Kreativität von digitaler Informationsflut zu trennen.