Facebook teilt eine Reihe von Updates und Anpassungen, welche die Art und Weise verbessern, wie wir Terroristen, gewalttätige extremistische Gruppen und Hassorganisationen auf Facebook und Instagram bekämpft werden können. Diese Änderungen betreffen in erster Linie die Richtlinien der Plattform für gefährliche Einzelpersonen und Unternehmen und will die User besser schützen und verhindern, dass sich Bedrohungen aus der realen Welt auf die socialen Netzwerke auswirken. Einige der Updates wurden bereits in den letzten Monaten implementiert aber bislang nicht ausführlich diskutiert wurden.
Facebook teilt eine Reihe von Updates und Anpassungen, welche die Art und Weise verbessern, wie wir Terroristen, gewalttätige extremistische Gruppen und Hassorganisationen auf Facebook und Instagram bekämpft werden können. Diese Änderungen betreffen in erster Linie die Richtlinien der Plattform für gefährliche Einzelpersonen und Unternehmen und will die User besser schützen und verhindern, dass sich Bedrohungen aus der realen Welt auf die socialen Netzwerke auswirken. Einige der Updates wurden bereits in den letzten Monaten implementiert aber bislang nicht ausführlich diskutiert.
Einige dieser Änderungen gehen auf den tragischen Terroranschlag in Christchurch, Neuseeland, zurück, aber dieser Anschlag und die globale Reaktion darauf in Form des Christchurch Call to Action (Summit in Paris) hat die jüngsten Aktualisierungen unserer Politik und deren Umsetzung stark beeinflusst. Erstens zeigte der Angriff den Missbrauch von Technologie zur Verbreitung radikaler Hassgefühle und hob hervor, wo wir die Aufdeckung und Durchsetzung gewalttätiger extremistischer Inhalte verbessern müssen. Im Mai hat Facebook Beschränkungen für die Nutzung von Facebook Live angekündigt und sich in Paris mit führenden Persönlichkeiten der Welt getroffen, um den Christchurch Call to Action der neuseeländischen Regierung zu unterzeichnen. Facebook hat auch einen Neun-Punkte-Branchenplan in Zusammenarbeit mit Microsoft, Twitter, Google und Amazon entwickelt, der die Schritte beschreibt, um den Missbrauch von Technologien zur Verbreitung terroristischer Inhalte zu bekämpfen
Vor zwei Jahren hat Facebook einige der automatisierten Techniken beschrieben, mit denen terroristische Inhalte identifiziert und entfernt werden können. Die Erkennungstechniken umfassen das Abgleichen von Inhalten, wodurch Kopien von bekannten schlechten Materialien identifizieren werden können und maschinell lernende Klassifikatoren, Beiträge identifizieren, untersuchen und beurteilen, ob diese gegen die Richtlinien verstossen. Bis heute wurde eine Vielzahl von Gruppen als terroristische Organisationen identifiziert, die auf ihrem Verhalten und nicht auf ihren Ideologien beruhen. Während die Absicht immer darin bestand, diese Techniken in verschiedenen gefährlichen Organisationen einzusetzen, wurde der Fokus zunächst auf globale Terrorgruppen wie ISIS und al-Qaida gelegt. Dies hat dazu geführt, dass in den letzten zwei Jahren mehr als 26 Millionen inhaltsbezogene globale Terrorgruppen wie ISIS und al-Qaida entfernt wurden, von denen 99% proaktiv identifiziert und entfernt wurden, bevor diese jemand gemeldet hat.
Seitdem wurde der Einsatz solcher Technologien auf eine breitere Palette gefährlicher Organisationen ausgedehnt, darunter sowohl terroristische Gruppen als auch Hassorganisationen. Facebook hat mehr als 200 weiße supremazistische Organisationen von der Plattform verbannt, basierend auf ihren Definitionen von terroristischen Organisationen und Hassorganisationen und verwendet eine Kombination aus KI und menschlicher Expertise, um Inhalte zu entfernen, die diese Organisationen loben oder unterstützen. Der Prozess zur Erweiterung des Einsatzes dieser Technologien begann Mitte 2018 und wird im Laufe der Zeit weiter verbessert.
Die Taktik muss aber dauern angepasst werden, weil die schlechten Akteure ihre ebenfalls weiterhin ändern werden. So hat beispielsweise das Video vom Angriff in Christchurch die automatischen Erkennungssysteme nicht veranlasst, weil nicht genügend Inhalte vorhanden waren, die Ego-Aufnahmen von gewalttätigen Ereignissen darstellten, um die KI effektiv zu trainieren. Facebook arbeitet deshalb mit Regierungs- und Strafverfolgungsbehörden in den USA und Großbritannien zusammen, um Kameramaterial aus ihren Schusswaffenausbildungsprogrammen zu erhalten – eine wertvolle Datenquelle für die Schulung der Systeme. Mit dieser Initiative soll die Erkennung von realem, persönlichem Filmmaterial von gewalttätigen Ereignissen verbessert und vermieden werden, dass andere Arten von Filmmaterial wie fiktive Inhalte aus Filmen oder Videospielen falsch erkannt werden.
Aktualisierung der Richtlinie
Obwohl der Terrorismus ein globales Thema ist, gibt es derzeit keine weltweit anerkannte und akzeptierte Definition von terroristischen Organisationen. Deshalb hat Facebook eine Definition entwickelt, welche die Entscheidungsfindung bei der Durchsetzung gegen diese Organisationen leitet. Facebook ist immer auf der Suche nach Möglichkeiten zur Optimierung und hat kürzlich aktualisiert, wie terroristische Organisationen in Absprache mit Experten für Terrorismusbekämpfung, humanitäres Völkerrecht, Meinungsfreiheit, Menschenrechte und Strafverfolgung definiert werden sollen. Die aktualisierte Definition konzentriert sich immer noch auf das Verhalten und nicht auf die Ideologie von Gruppen. Aber während sich die frühere Definition auf Gewalttaten konzentrierte, die dazu bestimmt waren, ein politisches oder ideologisches Ziel zu erreichen, beschreibt die neue Definition klarer, dass Gewaltversuche au dazu gehören, insbesondere wenn sie sich an Zivilisten richten mit der Absicht diese einzuschüchtern.
Den Hass hinter sich lassen
Die Bemühungen zur Bekämpfung von Terrorismus und Hass enden nicht mit den Richtlinien. Im März wurde damit begonnen, Menschen, die nach Begriffen suchen, die mit der weißen Vorherrschaft auf Facebook Search in Verbindung gebracht werden, mit Ressourcen zu verbinden, um Menschen zu helfen Hassgemeinschaften zu verlassen. Wenn Menschen in den USA nach diesen Begriffen suchen, werden sie an Life After Hate weitergeleitet, eine von ehemaligen gewalttätigen Extremisten gegründete Organisation, die Krisenintervention, Bildung, Unterstützungsgruppen und Öffentlichkeitsarbeit anbietet. Und jetzt wird diese Initiative auf weitere Gemeinden ausgeweitet.
Diese Initiative wird auf Australien und Indonesien ausgeweitet und die Auswirkungen dieser Bemühungen zur Bekämpfung von Hass und Extremismus werden gemeinsam mit Moonshot CVE gemessen. In Australien und Indonesien werden User welche nach Begriffen suchen, die mit Hass und Extremismus in Verbindung gebracht werden, an EXIT Australia bzw. ruangobrol.id weitergeleitet. Dies sind lokale Organisationen, die sich darauf konzentrieren, Einzelpersonen dabei zu helfen gewalttätigem Extremismus und Terrorismus zu verlassen. Facebook plant, diese Initiative weiter auszubauen und arbeitet mit Partner zusammen, um dieses Programm in Australien weiter auszubauen und mögliche Kooperationen in Neuseeland zu erkunden. Und wenn der datengesteuerte Ansatz von Moonshot CVE genutzt werden kann, um gewalttätigen Extremismus zu unterbinden, kann damit Menschen auf der ganzen Welt geholfen werden Hass hinter sich zu lassen. Facebook wird weiterhin Partner in Ländern auf der ganzen Welt suchen, in denen lokale Experten daran arbeiten, gefährdete Zielgruppen von hasserfüllten Organisationen zu befreien.
Alle diese Arbeiten wurden von einer multidisziplinären Gruppe von Sicherheits- und Anti-Terror-Experten geleitet, die Richtlinien und Produktinnovationen entwickelt und Inhalte mit sprachlicher und regionaler Expertise überprüft hat, um Facebook bei der Definition, Identifizierung und Entfernung terroristischer Inhalte aus Facebook und Instagram zu unterstützen. Zuvor konzentrierte sich das Team ausschließlich auf die Terrorismusbekämpfung – und identifizierte eine Vielzahl von Organisationen, darunter weiße Rassisten, Separatisten und islamistische extremistische Dschihadisten, als Terroristen. Nun erweitert das Team seine Bemühungen gegen alle Menschen und Organisationen, die Gewalt verkünden oder ausüben. Und das Team besteht mittlerweile aus 350 Personen mit Expertise, die von der Strafverfolgung und der nationalen Sicherheit über die Terrorismusbekämpfung bis hin zu akademischen Studien zur Radikalisierung reicht.
Dieses Expertenteam widmet sich nun den ersten Fortschritten, die bei der Bekämpfung von Inhalten im Zusammenhang mit ISIS, al-Qaeda und ihren Tochtergesellschaften gemacht haben, und der Weiterentwicklung von Techniken zur Identifizierung und Bekämpfung der gesamten Bandbreite von Gewalt und Extremismus, die unter Facebooks Richtlinie für gefährliche Organisationen fallen.
Facebook ist bestrebt, transparent über die Bemühungen zur Bekämpfung von Hass zu sein und wird November die vierte Ausgabe des Community Standards Enforcement Report teilen. Dieser beinhaltet Metriken darüber, wie bei der Durchsetzung der Richtlinien gegen terroristische Organisationen vorgegangen wird. Die Daten, die das Unternehmen über seine Bemühungen zur Terrorismusbekämpfung zur Verfügung gestellt hat, beziehen sich bisher auf die Bemühungen gegen Al Qaida, ISIS und ihre Tochtergesellschaften. Diese aktualisierten Metriken werden die umfassenden Bemühungen zur weltweiten Terrorismusbekämpfung besser widerspiegeln.
Facebook versucht mit diesen Massnahmen nicht nur Hass und Extremismus zu unterbinden, sondern bietet mit der Weiterleitung zu Organisation welche beim Ausstieg von solchen Gruppen helfen mit gegenzusteuern beim Aufbau von extremistischen Gruppierungen. Auch wenn es die meisten von uns nicht direkt tangiert, ist eine solche Entwicklung wichtig um Extremismus und Terrorismus vorbeugen zu können.
Autor: Dorian Kostanjsek | 72 Posts
Dorian Kostanjsek ist Consultant Digital Platforms bei der Hutter Consult AG. Er ist studierter Wirtschaftsinformatiker und Audio Engineer und ergänzt mit seinem ultraspannenden Wissen aus IT und Musik sowohl das Plattform-, wie auch das Ads-Team als Berater und Advertising Specialist. Weiterhin ist er für die interne IT-Struktur der Hutter Consult zuständig und steht mit Rat und Tat zu Seite, wenn einer aus dem Team an seine Grenzen des IT-Verständnisses gerät.
