9. Mai 2025, 15:30 Uhr | Lesezeit: 4 Minuten
Einmal ein Anime-Charakter, eine Barbie oder Held in der Verkaufsverpackung sein? Mit KI-Generatoren reicht ein Foto – doch hinter dem Spaß lauern ernste Gefahren. Warum harmlose Spielerei in Missbrauch und rechtliche Konsequenzen kippen kann, erklärt TECHBOOK.
KI-basierte Bildgeneratoren versprechen kreative Avatare auf Knopfdruck. Doch wer sein Foto hochlädt, setzt womöglich sensible Daten aufs Spiel. Missbräuchliche Nutzung und rechtliche Probleme können die Folge sein.
Übersicht
Was mit bei KI-Bildgeneratoren hochgeladenen Fotos passiert
Viele KI-Bildgeneratoren speichern nicht nur das Foto, sondern unter Umständen auch sensible Zusatzdaten wie IP-Adressen oder E-Mail-Kontakte. „Du gibst mehr preis, als du denkst und verlierst die Kontrolle“, warnt der Verein Mimikama, der über Online-Betrug aufklärt. Auch Katharina Grasl von der Verbraucherzentrale Bayern betont: „Neben dem eigenen Bild können auch Daten wie Name, Wohnort und Hobbys betroffen sein, je nach Eingabe durch die Nutzerinnen und Nutzer.“
Die KI analysiert mehr als nur das Gesicht. Sie erkennt auch Alter, Stimmung oder Haltung. Mimikama warnt davor, dass solche Aufnahmen in kriminellen Zusammenhängen wie Deepfakes oder sogar pornografischen Inhalten auftauchen könnten – mit besonders schwerwiegenden Konsequenzen, wenn es um Kinder geht.
Zusätzlich besteht das Risiko, dass das eigene Bild plötzlich ungewollt auftaucht – etwa als Antwort in einem KI-Dialog. Auch für Phishing oder Identitätsdiebstahl könnten die Daten genutzt werden, so die Warnung von Verbraucherschützern.
Selbstdarstellung vs. Risiko
Ein starker Anreiz für die Nutzung der KI-Bildgeneratoren ist die digitale Selbstdarstellung. Nutzer wollen sich so zeigen, wie sie gern gesehen werden möchten. Medienforscherin Claudia Riesmeyer von der Ludwig-Maximilians-Universität München erklärt: „Man könne mit der eigenen Identität experimentieren und sich so zeigen, wie man gerne sein möchte.“
Gerade Jugendliche reizt die Möglichkeit, mit dem eigenen Aussehen zu spielen. „Wer beispielsweise ausprobieren möchte, wie er oder sie mit blauen Haaren aussieht, kann das an seinem Avatar ausprobieren – ohne gleich zum Friseur gehen zu müssen“, so Riesmeyer.
Die KI selbst lernt durch die gesammelten Bilder – etwa für Gesichtserkennungssysteme. Datenschützer befürchten, dass Fotos in solche Systeme eingespeist werden könnten. „Kamerasysteme, die aus großen Menschenmengen anhand biometrischer Daten einzelne Personen herausfischen können, könnten erhebliche Folgen haben“, mahnte kürzlich Hamburgs Datenschutzbeauftragter Thomas Fuchs.
In der Europäischen Union ist der Einsatz biometrischer Gesichtserkennungssysteme im öffentlichen Raum inzwischen verboten – doch nicht alle KI-Tools stammen aus der EU.
Löschung oft schwierig oder unmöglich
Ist ein Foto einmal bei einem der zahlreichen KI-Bildgeneratoren hochgeladen, verliert man leicht die Kontrolle darüber. Auch wenn man die Löschung verlangt, ist das Bild möglicherweise bereits verarbeitet und vervielfältigt – vor allem bei Anbietern außerhalb der EU.
Zwar garantiert die Datenschutz-Grundverordnung in Europa das Recht auf Auskunft und Löschung. Doch wenn die Anbieter sich weitreichende Nutzungsrechte sichern, wird die Entfernung im Netz praktisch unmöglich, wie der Landesdatenschutzbeauftragte in Rheinland-Pfalz erklärt.
Vorsicht ist auch geboten, wenn Fotos von Freunden oder Bekannten verwendet werden. Ohne deren ausdrückliche Zustimmung ist das ein klarer Verstoß gegen das Recht am eigenen Bild. Zudem droht juristischer Ärger bei der Verwendung markenrechtlich geschützter Inhalte. Wer sich etwa in der Rolle eines „Star Wars“-Charakters auf Social Media präsentiert, verletzt unter Umständen Rechte des Disney-Konzerns. „’Ist doch nur Spaß‘ hat noch nie vor einer Abmahnung geschützt“, warnt Mimikama.
Was kann das neue KI-Tool „Whisk“ von Google?
Möglichkeiten und Gefahren von Deepfakes
Darum sollten Sie keine Fotos Ihrer Kinder online posten
So kann man sich schützen
Der wichtigste Schutz beginnt vor dem Hochladen. Die Verbraucherzentrale Bayern rät zur Zurückhaltung: „Ist mir die Nutzung des Tools die Preisgabe der Daten wirklich wert? Ist es wirklich notwendig, alle abgefragten Daten anzugeben?“
Kinder sollte man über die Risiken aufklären und sie bei der Verwendung der Tools begleiten. Bei Missbrauch des eigenen Fotos gilt: Beweise sichern, etwa mit Screenshots, Anbieter kontaktieren und notfalls rechtliche Schritte einleiten – inklusive Gang zur Polizei.