6. Januar 2026, 8:26 Uhr | Lesezeit: 2 Minuten
Der Kurznachrichtendienst X steht wegen der Verbreitung sexualisierter Deepfakes unter Druck. Die KI Grok ermöglichte die Manipulation und Verbreitung von Bildern ohne Einwilligung, insbesondere von Frauen und Minderjährigen.
Der Kurznachrichtendienst X steht unter massiver Kritik aufgrund eines Skandals um sexualisierte Deepfakes. Die über die integrierte KI Grok erzeugten manipulierten Bilder realer Personen werden ohne deren Einwilligung verbreitet, wie der Nachrichtendienst „Reuters“ berichtet. Besonders betroffen sind Frauen, aber auch Fälle von Minderjährigen sind dokumentiert. Trotz der Schwere der Vorwürfe hat die Plattform bislang keine klaren Maßnahmen ergriffen.
Manipulation durch KI Grok
Die Nutzung der KI Grok ermöglicht den Missbrauch durch einfache Anwendung. Nutzer können mit gezielten Anweisungen Fotos in explizite Darstellungen umwandeln. Für die Betroffenen bedeutet dies einen Verlust der Kontrolle über ihre Bilder. Die Fotos werden ohne Zustimmung verändert und weiterverbreitet. Trotz Meldungen bleiben viele Inhalte weiterhin sichtbar.
Die Situation wird durch widersprüchliche Aussagen der KI verschärft. In einigen Antworten bestätigte Grok, dass Schutzmechanismen versagt haben, während in anderen Fällen bestritten wird, dass solche Bilder erzeugt werden können.
Missbrauch mit KI-generierten Nacktbildern nimmt zu – Anwalt klärt über Rechte auf
EU verschärft Kampf gegen Cybermobbing mit einer App
Ein dokumentierter Fall
Ein konkreter Fall verdeutlicht die Problematik, wie „Heise“ schreibt. Eine betroffene Frau beschwerte sich über ein manipuliertes Bild. Zunächst wies Grok die Beschwerde zurück, änderte jedoch seine Aussage, nachdem man das konkrete Bild vorgelegt hatte. Trotz dieser Korrektur blieb das Bild auf X verfügbar. Die technischen Einschränkungen oder Schutzmaßnahmen sind bislang unklar.
Bislang gibt es keine offizielle Stellungnahme von der Führung des Grok-Entwicklers xAI. Gegenüber Medien wurden die Berichte als unwahr bezeichnet, was die Situation weiter verkompliziert. Welche Konsequenzen folgen, ist derzeit unklar.
Reaktionen der Behörden
Der Vorfall hat internationale Behörden alarmiert. In Frankreich wurden rechtliche Schritte gegen die Plattform eingeleitet. Die Inhalte wurden als rechtswidrig eingestuft. Indiens IT-Ministerium kritisierte X für den Missbrauch und die Verbreitung obszöner Inhalte. In den USA hielten sich die Behörden bislang zurück, und es gab keine offiziellen Reaktionen.