17. August 2025, 16:43 Uhr | Lesezeit: 5 Minuten
Videos, in denen Kinderzeichnungen zum Leben erweckt werden oder sich Personen in Monster verwandeln. Fotos, auf denen Menschen als Comicfiguren oder irgendwelche fabelhaften Sonnenuntergänge am schönsten Strand der Welt zu sehen sind. Dank KI tauchen solche spaßigen, emotionalen, in vielen Fällen blödsinnigen Inhalte auf sämtlichen Online-Plattformen massenhaft auf. Die Fachwelt nennt dieses Phänomen AI Slop oder KI-Schrott. Warum diese Form KI-generierter Inhalte auf Dauer zu einer echten Gefahr werden kann, möchte TECHBOOK in diesem Artikel aufzeigen.
Einige Experten bezeichnen AI Slop als das neue Spam. In den Anfängen des World Wide Webs fluteten böse Geschäftemacher E-Mail-Postfächer mit völlig absurden Mails. Der tägliche Nachrichtenabruf geriet zur Qual, weil die wirklich wichtigen Informationen im Spam versanken.
Übersicht
Ähnliches passiert gerade auf vielen Video-, Foto- oder Musikplattformen und selbstverständlich im Bereich Social Media. KI-generierte Medien überschwemmen die Onlinewelt und vergiften die Algorithmen. Wer einmal so einen Blödsinn angeklickt hat, bekommt immer mehr AI Slop ausgespielt.
Was AI Slop gefährlich macht
In einer Spezialausgabe seiner auf HBO laufenden Late-Night-Show „Last Week Tonight“ verdeutlicht Gastgeber John Oliver das eigentliche AI-Slop-Problem:
Selbstverständlich sind solche KI-Videos oder -Fotos manchmal wirklich lustig. Den meisten Menschen ist auch bewusst, dass es sich hierbei um Medien handelt, die mithilfe von KI entstanden sind. Doch extreme Quatsch-Videos sind nicht das Problem. Das beginnt erst dann, wenn nur winzige Details verändert werden, die nicht auf den ersten Blick erkennbar sind. Wenn das schockierende Video aus einem Kriegsgebiet eben nicht die Realität dokumentiert, sondern nur eine KI-generierte Abbildung einer Realität liefert, die ausschließlich Propagandazwecken dient.
Das Vertrauen in Fotos und Videos wird durch KI gerade massiv erschüttert. Selbstverständlich hat eine gewisse Grundskepsis bei der Beurteilung von medialen Inhalten noch nie geschadet. Doch KI verwischt die Grenze zwischen Realität und Lüge in einem rasanten Tempo.
Lesen Sie auch: Wie erkenne ich KI-generierte Menschen in Videos?
„Wenn diejenigen, die an Wahrheit interessiert sind, aus guten Gründen zukünftig alles, was sie auf Bildschirmen sehen und hören, mit Skepsis aufnehmen, aber diejenigen, denen es letztlich nur um Unterhaltung, Empörung und die Bestätigung von Vorurteilen geht, alles akzeptieren, was da auf sie einprasselt, dann gewinnen die irrationalen und empörungsnutzenden Kräfte den Diskurs“, warnt Kevin Baum. Er forscht bereits seit Jahren im Bereich KI und Ethik am Deutschen Forschungszentrum für Künstliche Intelligenz (dfki) in Saarbrücken.
Online-Plattformen leiden
AI Slop hat also das Potenzial, die Empörungsmaschine, die wir bereits aus Social Media kennen, noch weiter anzufeuern. Es geht um nicht weniger als die Deutungshoheit, was wahr und was falsch ist auf der Welt.
Dabei wirkt AI Slop bereits viel niederschwelliger. Viele bekannte Online-Plattformen wie YouTube, Pinterest, Spotify, Wikipedia oder YouTube leiden inzwischen unter den dort massenhaft hochgeladenen KI-Inhalten.
Das geht dank immer schnellerer KI-Modelle nahezu im Sekundentakt. Nur wenige Klicks, um 100 neue Fotos mit stylishen Wohneinrichtungen zu generieren oder 10 Dancefloor-Kracher-Hits oder unzählige True-Crime-Videos, in denen nur noch die KI mordet, weil die Geschichten frei erfunden sind. Denn AI Slop ist auch in erster Linie ein riesiges Geschäftsmodell geworden.
Auf YouTube tauchen immer neue Kanäle mit den absurdesten Geschichten auf. Die Klickzahlen liegen im hohen fünf- bis sechsstelligen Bereich. Da klingelt die Kasse bei den Betreibern solcher Angebote. Denn sie verdienen an der Werbung, die YouTube in diesen Quatschvideos platziert.
Laufen KI-generierte Erotikmodels echten Onlyfans-Stars den Rang ab?
YouTube will gegen Verschwörungstheoretiker vorgehen
Algorithmen potenzieren das Problem
YouTube hat kürzlich zumindest angedeutet, das Problem erkannt zu haben. Vor allem die Werbekunden dürften sich wenig erfreut gezeigt haben, ihre Werbung in immer blödsinnigeren Videos zu entdecken. Deswegen hat das Video-Portal nun kleinere Änderungen bei den sogenannten Monetarisierungsregeln vorgenommen. Diese bestimmen, welche Videos über Werbeeinblendungen vergütet werden. Demnach sollen künftig rein KI-generierte Inhalte kein Geld mehr bekommen.
Journalisten, die sich bereits länger mit dem Thema AI Slop und Deepfakes befassen, bleiben skeptisch. „Dass YouTube wirklich etwas gegen AI Slop tut, glaube ich erst, wenn es wirklich zu sehen ist“, meint Mats Schönauer, der sich auf seinem Kanal auch immer wieder mit dem Thema beschäftigt.
Die blödsinnigen Inhalte vieler KI-generierter Videos sind eigentlich schon schlimm genug. In Kombination mit der Wirkweise der Algorithmen potenziert sich das Problem. Denn je mehr solcher Medien auftauchen und je häufiger sie auch angeklickt werden, desto unbrauchbarer wird die Nutzung von Online-Plattformen. Relevante Inhalte versinken im AI Slop.
Immer mehr „KI-Wahrheiten“ auch bei Wikipedia
Das betrifft inzwischen auch die Online-Enzyklopädie Wikipedia. Die beliebte Seite sieht sich immer öfter mit reinen KI-Artikeln konfrontiert, die voller Fehler sind. Deswegen hat Wikipedia für seine Verhältnisse sehr schnell reagiert. Ab sofort darf offensichtlicher AI Slop umgehend gelöscht werden. Wer sich mit Wikipedia ein wenig auskennt, weiß, dass ein Löschantrag normalerweise eine zeitaufwendige Diskussion durchläuft, ehe überhaupt etwas passiert.
Die Beschleunigung, in der neue KI-Inhalte entstehen, wird weiter zunehmen. Jedes Update der großen KI-Modelle heizt das Tempo an. Technische Lösungen allein werden AI Slop nicht eindämmen können. Deswegen hängt es auch vom Verhalten jedes Einzelnen ab, wie KI die Sicht auf unsere Welt verändern wird. Es liegt an uns, ob beliebte Plattformen noch sinnvoll nutzbar sein werden oder KI-Spam relevante Inhalte künftig zumüllt.