KI gegen Nacktbilder

KI gegen Nacktbilder

Wie Dating-Plattform ihre Nutzer*innen besser schützt

Von  Sabrina Luttenberger
Ungefragt Nacktbilder geschickt bekommen, also sogenanntes "Cyberflashing", passiert vor allem beim Online-Dating immer mal wieder, obwohl es laut Paragraf 184 des Strafgesetzbuches eine Straftat ist. Wie eine künstliche Intelligenz dagegen vorgeht, hat sich egoFM Sabrina mal angeschaut.

Mit künstlicher Intelligenz Cyberflashing bekämpfen

Ausgedacht hat sich das die Dating App Bumble. Und zwar hat sie dafür den "Private Detector" entwickelt. Der erkennt, ob ein bestimmtes Foto ein Nacktbild ist oder nicht. Und wenn User*innen dann so eins geschickt bekommen, wird ihnen das Bild zunächst zensiert dargestellt. Dann kann jede*r selbst entscheiden, ob das Bild angezeigt oder gemeldet werden soll.

Bisher gibt es so eine KI nur bei Bumble und keiner anderen Onlinedating-Plattform. Nun ist Bumble aber doch so gnädig und teilt das Wissen ab sofort. Das Data-Science-Team der App hat jetzt nämlich eine Anleitung geschrieben, die die Technologie von Private Detector erklärt und den Quellcode dafür auf GitHub zur Verfügung gestellt. Auf der Seite können Nutzer*innen ihre Software-Entwicklungen mit anderen teilen - Open Source quasi. Die Anleitung von Bumble soll jetzt vor allem kleineren Unternehmen helfen, die nicht die Zeit haben, so eine KI-Technologie selbst zu entwickeln, um ihre User*innen vor unerwünschten Inhalten zu schützen.

Trotzdem bleibt das ungefragte Verschicken von Nacktbildern eine Straftat.

Betroffene können und sollten dementsprechend auch handeln. Erst mal auf jeden Fall den Kontakt melden oder blockieren, damit nicht noch mehr kommt. Und dann am besten mit Screenshots auch Beweise sichern. Die aber nicht an andere schicken, sonst macht man sich selbst strafbar. Der nächste Schritt wäre danach Anzeige zu erstatten. Das geht mit Plattformen wie Dickstinction mittlerweile innerhalb von einer Minute. Es müssen nur einige Infos eingeben werden und dann hat man eine professionell formulierte Anzeige, die man der Polizei schicken kann.

Sieh dir diesen Beitrag auf Instagram an

Ein Beitrag geteilt von Dickstinction (@dickstinction_)

Design ❤ Agentur zwetschke