Facebook hat heute angekündigt, noch konsequenter und proakiver gegen “unkonventionelle Intimbilder” (Rachepornos) vorzugehen und führt einen Algorithmus ein, der über maschinelles Lernen und dank künstlicher Intelligenz zukünftig ungewünschte Bilder oder Videos, die ohne Erlaubnis auf Facebook und Instagram freigegeben werden, erkennen und entfernen kann.
Facebook hat heute angekündigt, noch konsequenter und proakiver gegen “unkonventionelle Intimbilder” (Rachepornos) vorzugehen und führt einen Algorithmus ein, der über maschinelles Lernen und dank künstlicher Intelligenz zukünftig ungewünschte Bilder oder Videos, die ohne Erlaubnis auf Facebook und Instagram freigegeben werden, auf sämtlichen Plattformen des Giganten erkennen und entfernen kann.
Das Teilen von intimen Bildern kann schwerwiegende emotionale Folgen für die Menschen haben, deren Fotos veröffentlicht wurden. Manchmal als “Racheporno” bezeichnet, ist der Upload solcher Bildern und Videos eine Form sexueller Gewalt, die durch die Absicht motiviert wird, das Opfer zu demütigen, zu erpressen und zu terrorisieren.
Facebook betreibt deshalb schon seit Längerem ein Pilotprogramm zur Bekämpfung und zur Meldung von missbräuchlichen Uploads, bei welchem gemeldete Medien durch einen geschulten Mitarbeiter manuell geprüft und bearbeitet werden. Mit der heute kommunizierten Technologie, welche Bilder und Videos erkennt bevor diese von jemandem gemeldet werden, verdeutlicht Facebook die Bestrebungen zur Bekämpfung von Rachepornos:
“[…] we can find this content before anyone reports it, which is important for two reasons: often victims are afraid of retribution so they are reluctant to report the content themselves or are unaware the content has been shared.” (Quelle: Facebook)
Inhalte, die durch das System automatisch erkannt werden, werden durch ein Mitglied des “Community Operations”-Teams von Facebook überprüft und – falls der Inhalt beleidigend oder illegal ist – gelöscht und bei schwerwiegenden Fällen wird das für die Verbreitung verantwortliche Konto deaktiviert.
Zusätzlich zur Einführung der neuen Technologie stellt Facebook auch einen sogenannten “Support-Hub” zur Verfügung, welcher für Personen Hilfestellungen und Informationen zur Verfügung stellt, deren Bilder oder Videos ohne Zustimmung weiter verteilt bzw. publiziert wurden. Hier finden Opfer den Kontakt zu Organisationen und Ressourcen, welche sie unterstützen, sowie den Zugriff auf Massnahmen, um den Inhalt von Facebooks Plattformen zu entfernen und zu verhindern, dass dieser weiter verbreitet werden kann.
Dieser Hilfebereich wird unter dem Namen “Nicht ohne meine Einwilligung” (EN: Not Without My Consent) unter dem folgenden Link betrieben:
www.facebook.com/safety/notwithoutmyconsent/
Quelle: Facebook
Rachepornos können verheerend sein. Mit der neuen Erkennungstechnologie bietet Facebook hier einen proaktiven Schutz für Betroffene und bestätigt erneut die intern gelebte Politik, dass ungewollte und schädigende Inhalt konsequent verfolgt und entfernt werden. Das Vorgehen von Facebook ist beispielhaft, gleichzeitig aber auch absolut notwendig und sinnvoll, um weiterhin eine sichere Umgebung für die Community zu bieten und (potenzielle) Opfer von Rachepornos aktiv und unkompliziert zu unterstützen.
Autor: Claude Sprenger | 37 Posts
Claude Sprenger ist Managing Partner / Partner MYTY Group und Senior Consultant bei der Hutter Consult AG. In seiner Funktion übernimmt er eine umfassende Beratertätigkeit mit dem Schwerpunkt auf Tool- und Appdevelopment. Weiterhin ist er für die strategische Weiterentwicklung und Automatisierung von Businessprozessen, Tools und Services zuständig. Durch seine Digitalisierungsstrategien und Visionen unterstützt er das komplette Team und hat immer eine Antwort parat.
