Dokumentiert: Setting the record straight on shadow banning

Wir dokumentieren hier den Blogpost vom 26. Juli 2018 über Shadow Banning bei twitter, geschrieben von Vijaya Gadde und Kayvon Beykpour.

Eine deutsche Version finden Sie weiter unten. Hier aber zunächst das englische Original:

Setting the record straight on shadow banning

People are asking us if we shadow ban. We do not. But let’s start with, “what is shadow banning?”

The best definition we found is this: deliberately making someone’s content undiscoverable to everyone except the person who posted it, unbeknownst to the original poster.

We do not shadow ban. You are always able to see the tweets from accounts you follow (although you may have to do more work to find them, like go directly to their profile). And we certainly don’t shadow ban based on political viewpoints or ideology.

We do rank tweets and search results. We do this because Twitter is most useful when it’s immediately relevant. These ranking models take many signals into consideration to best organize tweets for timely relevance. We must also address bad-faith actors who intend to manipulate or detract from healthy conversation.

As a specific example, if a search result has 30,000 tweets, here’s what we take into consideration when ranking:

• Tweets from people you’re interested in should be ranked highly
• Tweets that are popular are likely to be interesting and should be higher ranked
• Tweets from bad-faith actors who intend to manipulate or divide the conversation should be ranked lower

This last bullet is the basis of our work around serving healthy public conversation. Here are some of the signals we use to determine bad-faith actors:

1. Specific account properties that indicate authenticity (e.g. whether you have a confirmed email address, how recently your account was created, whether you uploaded a profile image, etc)
2. What actions you take on Twitter (e.g. who you follow, who you retweet, etc)
   How other accounts interact with you (e.g. who mutes you, who follows you, who retweets you, who blocks you, etc)
3. We know this approach is working because we see fewer abuse reports and spam reports.

What Happened This Week

Yesterday, we identified an issue where some accounts weren’t auto suggested in search even when people were searching for their specific name. To be clear, this only impacted our search auto-suggestions. The accounts, their tweets and surrounding conversation about those accounts were showing up in search results. As of yesterday afternoon, this issue was resolved.

There were a number of follow up questions relating to our thread yesterday that we wanted to address:

1. “How many people were impacted by the search auto-suggest issue?” Hundreds of thousands of accounts were impacted by this issue. This impact was not limited to a certain political affiliation or geography. And, to be clear, these accounts were only impacted within search auto-suggestions– they still appeared in search results. This issue has now been resolved.
2. “It looks like this only affected Republican politicians. Were Democratic politicians also impacted?”
   Yes, some Democratic politicians were not properly showing up within search auto-suggestions as result of this issue. As mentioned above, the issue was broad-ranging and not limited to political accounts or specific geographies. And most accounts affected had nothing to do with politics at all.
3. “OK, so there was a search auto-suggest issue. But what caused these Republican representatives to be impacted?”
   For the most part, we believe the issue had more to do with how other people were interacting with these representatives’ accounts than the accounts themselves (see bullet #3 above). There are communities that try to boost each other’s presence on the platform through coordinated engagement. We believe these types of actors engaged with the representatives’ accounts– the impact of this coordinated behavior, in combination with our implementation of search auto-suggestions, caused the representatives’ accounts to not show up in auto-suggestions. In addition to fixing search yesterday, we’re continuing to improve our system so it can better detect these situations and correct for them.

We’re focused on making these systems better and smarter over time and sharing our work and progress with all of you. We think it’s critical to promoting healthy public conversation on Twitter and earning trust.
…

Richtigstellung des Shadowban

Wir werden immer wieder gefragt, ob wir einen Shadowban verhängen. Das tun wir nicht. Aber fangen wir mit der Frage an: „Was ist Shadowban?“

Die beste Definition, die wir gefunden haben, ist folgende: Der Inhalt einer Person wird absichtlich für alle außer der Person, die ihn gepostet hat, unauffindbar gemacht, ohne dass der ursprüngliche Poster davon weiß.

Wir führen kein Shadowbanning durch. Sie können die Tweets von Konten, denen Sie folgen, immer sehen (auch wenn Sie möglicherweise mehr Aufwand betreiben müssen, um sie zu finden, z. B. direkt zu ihrem Profil gehen). Und wir verhängen ganz sicher keine Schattenverbote aufgrund von politischen Ansichten oder Ideologien.

Wir bewerten Tweets und Suchergebnisse. Wir tun dies, weil Twitter am nützlichsten ist, wenn es unmittelbar relevant ist. Diese Ranking-Modelle berücksichtigen viele Signale, um Tweets nach zeitlicher Relevanz zu ordnen. Wir müssen uns auch mit böswilligen Akteuren auseinandersetzen, die beabsichtigen, eine gesunde Konversation zu manipulieren oder davon abzulenken.

Ein konkretes Beispiel: Wenn ein Suchergebnis 30.000 Tweets enthält, berücksichtigen wir beim Ranking Folgendes:

• Tweets von Personen, an denen Sie interessiert sind, sollten hoch eingestuft werden
• Tweets, die beliebt sind, sind wahrscheinlich interessant und sollten höher eingestuft werden
• Tweets von bösgläubigen Akteuren, die die Absicht haben, die Unterhaltung zu manipulieren oder zu spalten, sollten niedriger eingestuft werden.

Dieser letzte Punkt bildet die Grundlage für unsere Arbeit im Dienste einer gesunden öffentlichen Konversation. Hier sind einige der Signale, die wir verwenden, um schlechtgläubige Akteure zu erkennen:

1. Bestimmte Kontoeigenschaften, die auf Authentizität hindeuten (z. B. ob Sie eine bestätigte E-Mail-Adresse haben, wie kürzlich Ihr Konto erstellt wurde, ob Sie ein Profilbild hochgeladen haben usw.)
2. Welche Aktionen Sie auf Twitter durchführen (z. B. wem Sie folgen, wen Sie retweeten usw.)
3. Wie andere Konten mit Ihnen interagieren (z. B. wer Sie stummschaltet, wer Ihnen folgt, wer Sie retweetet, wer Sie blockiert usw.)

Wir wissen, dass dieser Ansatz funktioniert, weil wir weniger Missbrauchs- und Spam-Meldungen erhalten.

Was diese Woche geschah

Gestern haben wir ein Problem festgestellt, bei dem einige Konten in der Suche nicht automatisch vorgeschlagen wurden, auch wenn man nach ihrem Namen suchte. Um es klar zu stellen: Dies betraf nur unsere automatischen Suchvorschläge. Die Konten, ihre Tweets und die Konversation über diese Konten wurden in den Suchergebnissen angezeigt. Seit gestern Nachmittag ist dieses Problem behoben.

Es gab eine Reihe von Folgefragen zu unserem gestrigen Beitrag, die wir gerne beantworten möchten:

1. „Wie viele Personen waren von dem Problem mit den automatischen Suchvorschlägen betroffen?
   Hunderttausende von Konten waren von diesem Problem betroffen. Die Auswirkungen waren nicht auf eine bestimmte politische Zugehörigkeit oder Region beschränkt. Außerdem waren diese Konten nur von den automatischen Suchvorschlägen betroffen, d. h. sie wurden weiterhin in den Suchergebnissen angezeigt. Dieses Problem wurde nun behoben.
2. „Es sieht so aus, als wären nur republikanische Politiker betroffen. Waren auch demokratische Politiker betroffen?“
   Ja, einige demokratische Politiker wurden aufgrund dieses Problems nicht korrekt in den automatischen Suchvorschlägen angezeigt. Wie bereits erwähnt, war das Problem breit gefächert und nicht auf politische Konten oder bestimmte Regionen beschränkt. Und die meisten betroffenen Konten hatten überhaupt nichts mit Politik zu tun.
3. „OK, es gab also ein Problem mit automatischen Suchvorschlägen. Aber wieso waren diese republikanischen Vertreter betroffen?“
   Wir glauben, dass das Problem mehr damit zu tun hatte, wie andere Personen mit den Konten dieser Vertreter interagierten, als mit den Konten selbst (siehe Punkt 3). Es gibt Gemeinschaften, die versuchen, die Präsenz der anderen auf der Plattform durch koordiniertes Engagement zu steigern. Wir glauben, dass diese Art von Akteuren mit den Konten der Vertreter interagiert hat – die Auswirkungen dieses koordinierten Verhaltens in Kombination mit unserer Implementierung der automatischen Suchvorschläge haben dazu geführt, dass die Konten der Vertreter nicht in den automatischen Vorschlägen auftauchten. Neben der Korrektur der gestrigen Suche arbeiten wir weiter an der Verbesserung unseres Systems, damit es diese Situationen besser erkennen und korrigieren kann.

Wir konzentrieren uns darauf, diese Systeme mit der Zeit besser und intelligenter zu machen und unsere Arbeit und Fortschritte mit Ihnen allen zu teilen. Wir glauben, dass dies entscheidend ist, um eine gesunde öffentliche Konversation auf Twitter zu fördern und Vertrauen zu gewinnen.