17.08.2020 LinkedIn

LinkedIn: Die Technologie hinter der Bekämpfung von Belästigung auf der Plattform

Spam, unangemessene oder belästigende Inhalte zerstören das Vertrauen und die Sicherheit der Mitglieder in die Plattform. Solche Belästigungen finden nicht nur im Newsfeed statt, sondern sind hauptsächlich in den privaten Nachrichten anzutreffen. LinkedIn hat eine Technologie im Einsatz, die eine Kombination aus maschinellem Lernen und menschlichem Fachwissen ist. Damit soll das Vertrauen und der Schutz für die Mitglieder auch in den privaten Nachrichten gewährleistet sein.

Belinda Weibel
7 Min. Lesezeit
Keine Kommentare

LinkedIn ist ein aktives und professionelles Netzwerk, wo die Mitglieder sich über wichtige Themen informieren, sinnvolle Geschäftsbeziehungen aufbauen oder auch neue Herausforderung entdecken.

Damit sich alle Mitglieder selbstbewusst im gesamten Netzwerk engagieren können, müssen sie sich auf der Plattform sicher fühlen. Das Gefühl von Sicherheit ist schnell nicht mehr gegeben, wenn Spam, unangemessene oder belästigende Inhalte auf der Plattform verbreitet werden. LinkedIn teilt den Mitgliedern mit, dass solche Vorfälle nicht toleriert werden und die Plattform proaktive Massnahmen eingeführt hat, die zum Schutz der Mitglieder eingesetzt werden. Dieser Schutz ist eine Kombination aus maschinellem Lernen und menschlichem Fachwissen.

Die Technologie zur Bekämpfung von Belästigung

LinkedIn hat klare Richtlinien sowie Praktiken und hört den Mitgliedern zu, um das eigene Verständnis für die Erfahrungen zu verbessern, die das Sicherheitsgefühl der Mitglieder auf der Plattform untergraben könnten. LinkedIn bemüht sich stets darum, die Tools, mit denen Belästigungen verhindert oder schnell gestoppt werden, ständig weiterzuentwickeln und zu verbessern, um Mitglieder zu ermutigen negative Erfahrungen zu melden. So können Berichte aktiv überprüft und Trends verfolgt werden. LinkedIn hat festgestellt, dass die gemeldeten Fälle von Belästigung überwiegend in privaten Nachrichten und nicht auf dem öffentlichen Newsfeed stattfinden. Aufgrund dieser Kenntnisnahme hatte die Plattform eine Reihe von Initiativen und Projekten durchgeführt, um alle Mitglieder besser vor Belästigungen in den Nachrichten zu schützen.

Belästigung in den privaten Nachrichten

Unangemessener Inhalt ist eine Frage der Perspektive. Nicht jedes Mitglied hat dasselbe Empfinden, wenn es um Spam oder unangemessene Inhalte geht. Was für das eine Mitglied unangemessener Inhalt ist, kann für das andere akzeptierbar sein oder schenkt dem Inhalt keine Beachtung. Was passiert aber, wenn der unangemessene Inhalt nicht mehr öffentlich im Newsfeed, sondern direkt in der eigenen Mailbox landet?

Eine direkte, private Nachricht wird zielgerichtet an eine bestimmte Person gesendet. Daher ist die Aufnahme des Inhalts bewusster, da der Inhalt an die Person direkt gesendet wurde. Dieses unwohle Gefühl kann zu einem akuten Sicherheits- und Vertrauensverlust führen. Deshalb ist die Bekämpfung von solchen Belästigungen besonders wichtig.

Es ist eine besondere Herausforderung, der sich LinkedIn bei der Herangehensweise stellt. Der Begriff “Belästigung” hat nämlich einen breiten Anwendungsbereich und die Erfahrungen jedes einzelnen Mitglieds mit Belästigungen sind individuell und persönlich.

Strategie von LinkedIn 

LinkedIn teilte mit, dass das eigene Team schnell auf Mitgliederberichte reagiert aber feststellt, dass bestimmte Belästigungen, wie beispielsweise unerwünschte Annäherungsversuche, zu wenig gemeldet werden.

Die Untersuchungen von LinkedIn mit deren Mitgliedern zeigten, dass:

  • das Gefühl ins Visier genommen zu werden, einige Mitglieder dazu veranlasst, verletzende Mitglieder einfach zu blockieren, um das Problem “verschwinden” zu lassen, anstatt die Botschaft ans LinkedIn Team zu übermitteln, damit diese handeln können.
  • die Art der privaten Nachrichten in sozialen Netzwerken die Angst vor Vergeltung hervorrufen können, wenn ein Mitglied ein anderes Mitglied wegen unangemessenen Verhaltens meldet. Obwohl LinkedIn die Nachrichtenberichte niemals an das beleidigende Mitglied weitergibt, besteht die Besorgnis weiterhin.

Angesichts der nicht ausreichend gemeldeten Art der Belästigung und der potenziellen Schwere ihrer Auswirkungen verfolgt LinkedIn die folgende Strategie, um die Belästigung auf der Plattform proaktiv zu minimieren und gleichzeitig eine unterstützende Mitgliedererfahrung zu gewährleisten.

1. Aufklärung und Durchsetzung klarer Richtlinien

LinkedIn klärt die Mitglieder über die Professional Community Policies auf und setzt sie durch, wenn Belästigungen in Nachrichten gefunden werden.

2. Belästigung erkennen

LinkedIn setzt maschinelle Lernmodelle ein, um potenzielle Belästigungen innerhalb der privaten Nachrichten zu erkennen. Diese Modelle dienen dem Schutz des Empfängers, indem sie potenziell belästigende Nachrichten verbergen und dem Empfänger gleichzeitig die Möglichkeit geben, diese aufzudecken, anzuzeigen und optional zu melden.

3. Unterstützung für betroffene Mitglieder

LinkedIn hat Tipps zu den Möglichkeiten zusammengestellt, wenn Mitglieder von Belästigungen betroffen sind. LinkedIn sichert zu, dass 100 % der Belästigungsberichte zur Überprüfung eingesendet und die Report-Schleife der berichtenden Mitglieder bald geschlossen wird, um mehr Transparenz über die ergriffenen Maßnahmen zu schaffen.

Das Erkennen von Belästigung

LinkedIn hat auf dem Weg, eine sichere, vertrauenswürdige und professionelle Plattform zu schaffen, festgestellt, dass das Verhalten von Mitgliedern, die sexuell belästigende Nachrichten senden, im Allgemeinen in drei Kategorien eingeteilt werden können:

1. Romantische Betrügereien

Das sind Mitglieder, die finanzielle Betrügereien über gefälschte oder gehackte Konten durchführen, indem sie romantische Nachrichten verwenden, um ein Mitglied zu betrügen. Diese Art von Verhalten findet sich typischerweise bei verdächtigen Kontosignalen, die die Abwehrmaßnahmen von der Plattform für gefälschte Konten und gehackte Konten unterbinden sollen.

2. Unangemessene Annäherungsversuche

LinkedIn ist keine Dating-Website, aber einige Mitglieder entscheiden sich dafür, andere Mitglieder aus romantischen Gründen unangemessen anzusprechen. Diese Mitglieder senden mehrere Nachrichten, in denen sie um Beziehungen zu Mitgliedern werben, die sie oft nicht kennen. LinkedIn wendet sich an diese Zielgruppe mit maschineller Lernmethode, die darauf ausgerichtet ist, dieses Verhalten zu erkennen.

3. Gezielte Belästigung

Dazu gehört es, eine Off-Plattform-Konversation oder einen Streitfall auf LinkedIn zu bringen, wie z.B. Stalking oder Trolling. Diese Verstöße sind seltener und können von gefälschten Konten oder echten Mitgliedern entstehen. LinkedIn plant die Modellierungslösung für unangemessene Annäherungsversuche anzupassen, um diese Gruppe von Mitgliedern anzusprechen.

Wenn Mitglieder Inhalte als Belästigung melden, veranlasst dies dem zuständige Team von LinkedIn, den konkreten Fall zu untersuchen und die beleidigenden Inhalte zu überprüfen. Um gegen unangemessene Annäherungsversuche vorzugehen, untersuchte die Plattform den Missbrauch aus den gemeldeten Fällen auf der Ebene des Absenderverhaltens, des Nachrichteninhalts und der individuelle Ebene (Absender, Empfänger). Anhand dieser Daten baute LinkedIn dann ein maschinelles Lernen zur Erkennung von Belästigung auf, das aus einer Abfolge von drei Modellen besteht, die zusammen die verletzenden Mitglieder und ihre belästigenden Nachrichten mit hoher Präzision identifizieren:

  1. Zunächst wird das Verhalten des Absenders (z.B. Nutzung der Website, gesendete Einladungen) anhand eines Verhaltensmodells bewertet. Dieses Modell wird unter Verwendung der Mitgliederberichte erstellt und fortlaufend verbessert, mit welchen bestätigt wurde, dass Mitglieder Belästigungen durchgeführt haben.
  2. Zweitens wird der Inhalt der Nachricht von einem Nachrichtenmodell bewertet. Dieses Modell wird anhand von Nachrichten erstellt und fortlaufend verbessert, die als Belästigung gemeldet und als solche bestätigt wurden.
  3. Schließlich wird die Interaktion zwischen den beiden Gesprächsteilnehmern (z.B. wie oft reagieren diese aufeinander, wobei die meisten Nachrichten vom Nachrichtenmodell als Belästigung vorausgesagt werden) durch ein Interaktionsmodell bewertet. Dieses Modell wird anhand von Signalen aus den Gesprächen, die zu Belästigungen führen, erstellt und fortlaufend verbessert.

LinkedIn wendet diese Modelle in einer Reihenfolge an, um unnötige Konto- oder Nachrichtenanalysen zu minimieren, indem keine zusätzliche Modellbewertung durchgeführt wird, es sei denn, das vorherige Modell kennzeichnet den Datenverkehr als verdächtig. Am Ende löst dieses Belästigungserkennungssystem eine vor kurzem eingeführte Funktion aus, die als belästigend erkannte Nachrichten verbirgt und den Empfängern die Möglichkeit bietet, sie zu enttarnen und leicht zu melden.

Belästigungserkennungssystem Vorgehensweise (Quelle: LinkedIn)

Der Blick nach vorn

Für LinkedIn hat das Erkennen und Eliminieren von Belästigungen auf der Plattform höchste Priorität. Die Plattform arbeitet jeden Tag daran, die Strategie weiterzuentwickeln und auszubauen, um Belästigungen auf LinkedIn und deren Auswirkungen auf die Mitglieder zu minimieren. LinkedIn verbessert aktiv die Leistung des Belästigungserkennungssystems (Modellpräzision und Rückruf) durch neue Modellierungstechniken, eine differenziertere Auswahl von Schulungsdaten und eine verbesserte Funktionsentwicklung. Parallel dazu erforscht das Team von LinkedIn neue Produkterfahrungen, um die negative Erfahrung der Belästigung in Fällen zu mildern, in denen LinkedIn dies nicht proaktiv verhindern konnte.

Fazit

LinkedIn setzt vieles daran, dass die Plattform zum vierten Mal in Folge zur “most trusted platform” benannt werden soll. An erster Stelle geht es der Plattform nicht um den Titel, sondern um den Schutz und die Sicherheit für alle Mitglieder weltweit. Ein leichter Job ist es bestimmt nicht, solche Algorithmen zu erstellen, damit Belästigungen nicht mehr auf der Plattform vorkommen können und gezielter in den privaten Nachrichten. Es ist aber auch ein spannendes Zusammenspiel aus menschlichem Fachwissen und maschinellem Lernen, damit mehrheitlich alle Belästigungen korrekt angegangen werden können seitens LinkedIn. Leider kann kein Mechanismus zu 100 % verhindern, dass Belästigungen nicht mehr vorkommen. Es ist deshalb umso wichtiger, dass jedes Mitglied Belästigungen ernst nimmt und diese auch sofort meldet. Nur so kann das Team von LinkedIn den Mechanismus verbessern und noch gezielteren Schutz bieten.

Facebook Instagram Twitter LinkedIn Xing

Kommentar via Facebook

Bitte akzeptieren Sie die Cookies um die Facebook Kommentare zu nutzen.

Schreib uns einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.

Kennst Du schon unsere wöchentlichen Newsletter?

Facebook & Instagram   LinkedIn