22.09.2019, 17:12 Uhr | Lesezeit: 4 Minuten
Eine Web-Entwicklerin bat Männer, ihr Bilder ihrer Genitalien zu schicken, um einen Filter zu bauen, der in der Lage ist, einen Penis zu erkennen und zu „filtern“. Das wirft die Frage auf: Wieso muss sich erst eine Privatperson diesem Problem annehmen und warum haben sich die großen Tech-Firmen damit noch nicht beschäftigt?
Die Geschichte der„Dick-Pics“ („Schwanzbilder“) ist so alt wie das Internet selbst – nun endlich nimmt jemand den Kampf gegen diese Art der unerwünschten Belästigung auf.
Für die Forschung: „18+ , consensual, human dicks only please“
Als die amerikanische Programmiererin Kelsey Bressler nach dem Aufstehen wieder mal mit einem unerwünschten „Dick-Pic“ in den Nachrichten ihres Twitter-Accounts begrüßt wurde, war die Idee geboren, einen KI-Filter zu entwickeln, von dem sie behauptet, dass er über 95% der sexuell eindeutigen Bilder daran hindern kann in ihren Posteingang zu gelangen.
Nach einer kurzen Umsetzungsphase ist der Prototyp nun bereit für die Praxis. Um den Filter zu testen, bat Bressler die Öffentlichkeit mit dem Slogan @ShowYoDiq „for science“ um Bilder von männlichen Genitalien und daraufhin hunderte von Einsendungen.
Status: Ausbaufähig
Etwa fünf Prozent der eingegangen Intimaufnahmen schlüpften durch den Filter – allesamt weil die Abbildung zu sehr aus der Reihe fiel. Darunter war beispielsweise ein Penis, der mit violettem Glitzer bedeckt war und so die KI verwirren konnte. Da dieser mittels Porno-Videos trainiert wurde, Genitalien zu erkennen. Ist das vermeintlich beste Stück des Mannes weniger exotisch inszeniert, sieht und löscht der Filter sie, bevor der Empfänger es tun muss. Um die Blindgänger-Quote zu minimieren muss der Algorithmus von Hand nachgebessert werden.
Für den Anfang ist vorerst nur eine Verwendung bei Twitter angedacht. Im Grunde ist die Technologie allerdings mit nahezu allen Social Media Kanälen kompatibel, so dass die Software überall angewendet werden könnte. Ein Release wäre wohl schon für Ende des Jahres möglich.
An dieser Stelle fragen Sie sich vielleicht, warum Männer Frauen unerwünschte, explizite Bilder ihrer Genitalien schicken.Laut einer Pew Research Study aus dem Jahr 2017 über Cyber-Belästigung berichten 53% der Frauen im Alter von 18 bis 29 Jahren, dass ihnen online bereits mindestens einmal ein unzüchtiges Bild unaufgefordert zugeschickt wurde.
Dass diese Bilder meist ohne die Zustimmung des Empfängers weitergegeben werden, gilt das als sexuelle Belästigung. „Es ist verletzend…. sie drängen es einem einfach auf“, beschreibt Bressler das Gefühl, unerwünschte Bilder zu erhalten. „Wir sollten kontrollieren können, ob wir einen Penis sehen wollen oder nicht. Kein Absender sollte uns dazu zwingen können.“
Es variiert zwar, aber nach Ansicht von Forschern der Kwantlen Polytechnic University in Kanada, welche die erste empirische Studie zu diesem Thema in diesem Sommer veröffentlicht haben, beruht das Verhalten der Täter auf einem überdurchschnittlich stark ausgeprägten Hang zum Narzissmus und Sexismus.
Erpressung Wie junge Männer mit Fotos auf Dating-Portalen abgezockt werden
Massenphänomen Cybergrooming Kriminologe: »3 Tätertypen gefährden unsere Kinder im Internet
KI-generierte Deepfakes Suchmaschinen unternehmen kaum etwas gegen gefälschte Promi-Nacktbilder
Tech-Unternehmen in der Verantwortung
Bresslers KI hat bereits die Aufmerksamkeit von mindestens einem großen, ungenannten Social-Networking-Unternehmen geweckt. Doch die Kürze der Zeit und der geringe Aufwand, mit dem ihr Filter erstellt wurde, wirft die Frage auf, warum die Branchenführer nicht schon längst effektive Software zum Schutz vor Belästigung entwickelt haben und warum die Maßnahmen, die sie bislang zum Schutz ihrer Nutzer ergriffen haben, oft eher unausgegoren wirken.
Auch interessant: Vorsicht vor sexueller Belästigung auf dem iPhone!
Twitter zum Beispiel verfügt über eine Einstellung, die bei Aktivierung Bilder blockiert, die andere Benutzer als „sensible Inhalte“ markiert haben – die Funktion verhindert jedoch nicht, dass „Dick-Pics“ direkt an Ihren Posteingang gesendet werden können. Ein Teil des Grundes, warum Plattformen zurückhaltend sind, gegen den ungewollten Versand von Aktfotos vorzugehen, liegt darin, dass die Unternehmen bis dato nicht verpflichtet sind, ihre Nutzer zu schützen.