Trollfarmen erreichten vor den Wahlen 2020 monatlich 140 Millionen Amerikaner auf Facebook, wie ein interner Bericht zeigt

MIT Technology Review | Envato-Elemente

Aktualisieren: Nachdem diese Geschichte veröffentlicht wurde, hat Facebook zwei der fünf Trollfarm-Seiten, die wir identifiziert haben, abgeschaltet.

Im Vorfeld der Wahlen 2020, den am stärksten umkämpften in der Geschichte der USA, wurden Facebooks beliebteste Seiten für christliche und afroamerikanische Inhalte von osteuropäischen Trollfarmen betrieben. Diese Seiten waren Teil eines größeren Netzwerks, das laut einem internen Unternehmensbericht zusammen fast die Hälfte aller Amerikaner erreichte und diese Reichweite nicht durch die Wahl der Benutzer, sondern in erster Linie als Ergebnis des Facebook-eigenen Plattformdesigns und des nach Engagement hungrigen Algorithmus erreichte.



Wie Facebook süchtig danach wurde, Fehlinformationen zu verbreiten

Die KI-Algorithmen des Unternehmens gaben ihm eine unersättliche Angewohnheit für Lügen und Hassreden. Jetzt kann der Mann, der sie gebaut hat, das Problem nicht beheben.

Der Bericht, der im Oktober 2019 verfasst und von MIT Technology Review von einem ehemaligen Facebook-Mitarbeiter erhalten wurde, der nicht an der Recherche beteiligt war, stellte fest, dass Facebook nach den Wahlen 2016 es versäumt hatte, grundlegende Änderungen bei der Förderung und Verbreitung von Informationen auf seiner Plattform zu priorisieren. Das Unternehmen verfolgte stattdessen eine Whack-a-Mole-Strategie, bei der die Aktivitäten von schlechten Akteuren überwacht und unterdrückt wurden, wenn sie sich am politischen Diskurs beteiligten, und einige Leitplanken hinzugefügt wurden, die das Schlimmste verhinderten.

Aber dieser Ansatz trug wenig dazu bei, das zugrunde liegende Problem einzudämmen, stellte der Bericht fest. Trollfarmen – professionelle Gruppen, die koordiniert zusammenarbeiten, um provokative Inhalte, oft Propaganda, in sozialen Netzwerken zu posten – bauten immer noch ein riesiges Publikum auf, indem sie Netzwerke von Facebook-Seiten betrieben. Ihre Inhalte erreichten monatlich 140 Millionen Nutzer in den USA, von denen 75 % noch nie einer der Seiten gefolgt waren. Sie sahen den Inhalt, weil das Inhaltsempfehlungssystem von Facebook ihn in ihre Newsfeeds gepusht hatte.

Anstatt dass sich die Nutzer dafür entscheiden, Inhalte von diesen Akteuren zu erhalten, ist es unsere Plattform, die [diesen Trollfarmen] eine enorme Reichweite verleiht, schrieb der Autor des Berichts, Jeff Allen, ein ehemaliger hochrangiger Datenwissenschaftler bei Facebook.

Joe Osborne, ein Sprecher von Facebook, sagte in einer Erklärung, dass das Unternehmen diese Themen bereits zum Zeitpunkt von Allens Bericht untersucht habe, und fügte hinzu: „Seit dieser Zeit haben wir Teams gebildet, neue Richtlinien entwickelt und mit Branchenkollegen zusammengearbeitet, um diese anzugehen diese Netzwerke. Wir haben aggressive Durchsetzungsmaßnahmen gegen diese Art von ausländischen und inländischen nicht authentischen Gruppen ergriffen und die Ergebnisse vierteljährlich öffentlich bekannt gegeben.

Bei der Überprüfung dieser Geschichte kurz vor der Veröffentlichung stellte MIT Technology Review fest, dass fünf der im Bericht erwähnten Trollfarm-Seiten aktiv blieben.

Dies ist die größte Trollfarm-Seite, die sich im Oktober 2019 an Afroamerikaner richtet. Sie bleibt auf Facebook weiterhin aktiv.

Der Bericht stellte fest, dass Trollfarmen dieselben demografischen Gruppen erreichten, die von der vom Kreml unterstützten Internet Research Agency (IRA) während der Wahlen 2016 ausgewählt wurden, die Christen, schwarze Amerikaner und amerikanische Ureinwohner ins Visier genommen hatten. A 2018 Untersuchung von BuzzFeed News fand heraus, dass mindestens ein Mitglied der russischen IRA, das wegen angeblicher Einmischung in die US-Wahlen 2016 angeklagt war, Mazedonien ebenfalls besucht hatte, als die ersten Trollfarmen auftauchten, obwohl es keine konkreten Beweise für eine Verbindung fand. (Facebook sagte, seine Ermittlungen hätten auch keine Verbindung zwischen der IRA und mazedonischen Trollfarmen ergeben.)

Das ist nicht normal. Das ist nicht gesund, schrieb Allen. Wir haben unechte Schauspieler ermächtigt, riesige Anhängerschaften für weitgehend unbekannte Zwecke anzusammeln … Die Tatsache, dass Schauspieler mit möglichen Verbindungen zur IRA Zugang zu riesigen Zuschauerzahlen in denselben demografischen Gruppen haben, die von der IRA anvisiert werden, stellt ein enormes Risiko für die US-Wahl 2020 dar .

Solange Trollfarmen mit diesen Taktiken erfolgreich waren, konnte das auch jeder andere schlechte Schauspieler, fuhr er fort: Wenn die Trollfarmen 30 Millionen US-Benutzer mit Inhalten erreichen, die auf Afroamerikaner abzielen, sollten wir uns überhaupt nicht wundern, wenn wir die IRA entdecken hat dort derzeit auch ein großes Publikum.

Allen schrieb den Bericht als vierten und letzten Teil einer anderthalbjährigen Bemühung, Trollfarmen zu verstehen. Laut dem ehemaligen Facebook-Mitarbeiter, der den Bericht lieferte, verließ er das Unternehmen noch im selben Monat, teilweise aus Frustration darüber, dass die Führung seine Forschungen effektiv ignoriert hatte. Allen lehnte eine Stellungnahme ab.

Welches war die weltweit erste Transplantation eines vollständig synthetischen Organs?

Der Bericht enthüllt den alarmierenden Zustand, in dem die Facebook-Führung die Plattform jahrelang verlassen hat, trotz wiederholter öffentlicher Versprechungen, aggressiv gegen ausländische Wahlinterferenzen vorzugehen. MIT Technology Review stellt den vollständigen Bericht mit redigierten Mitarbeiternamen zur Verfügung, da dies im öffentlichen Interesse liegt.

Zu seinen Offenbarungen gehören:

  • Bis Oktober 2019 wurden rund 15.000 Facebook-Seiten mit einem mehrheitlich US-amerikanischen Publikum aus dem Kosovo und Mazedonien heraus betrieben, die während der Wahlen 2016 als schlechte Schauspieler bekannt waren.
  • Zusammengenommen erreichten diese Troll-Farm-Seiten – die der Bericht zu Vergleichszwecken als eine einzige Seite behandelt – monatlich 140 Millionen US-Nutzer und wöchentlich 360 Millionen weltweite Nutzer. Die Seite von Walmart erreichte mit 100 Millionen das zweitgrößte US-Publikum.
  • Die Seiten der Trollfarm kombinierten sich auch zu:
    • die größte christlich-amerikanische Seite auf Facebook, 20-mal größer als die nächstgrößte – sie erreichte monatlich 75 Millionen US-Nutzer, von denen 95 % noch nie einer der Seiten gefolgt waren.
    • die größte afroamerikanische Seite auf Facebook, dreimal größer als die zweitgrößte – sie erreichte monatlich 30 Millionen US-Nutzer, von denen 85 % noch nie einer der Seiten gefolgt waren.
    • die zweitgrößte Seite der amerikanischen Ureinwohner auf Facebook, die monatlich 400.000 Nutzer erreicht, von denen 90 % noch nie einer der Seiten gefolgt sind.
    • die fünftgrößte Frauenseite auf Facebook, die monatlich 60 Millionen US-Nutzer erreicht, von denen 90 % noch nie einer der Seiten gefolgt sind.
  • Trollfarmen betreffen hauptsächlich die USA, zielen aber auch auf Großbritannien, Australien, Indien sowie mittel- und südamerikanische Länder ab.
  • Facebook hat mehrere Studien durchgeführt, die bestätigen, dass Inhalte, die mit größerer Wahrscheinlichkeit Benutzerinteraktion erhalten (Gefällt mir, Kommentare und Shares), eher von einem Typ sind, der als schlecht bekannt ist. Dennoch hat das Unternehmen die Inhalte in den Newsfeeds der Benutzer weiterhin danach geordnet, was das höchste Engagement erhält.
  • Facebook verbietet es Seiten, Inhalte zu veröffentlichen, die lediglich von anderen Teilen der Plattform kopiert und eingefügt wurden, setzt die Richtlinie jedoch nicht gegen bekannte schlechte Akteure durch. Dies macht es ausländischen Akteuren, die die Landessprache nicht sprechen, leicht, vollständig kopierte Inhalte zu veröffentlichen und dennoch ein riesiges Publikum zu erreichen. Zu einem bestimmten Zeitpunkt gingen bis zu 40 % der Seitenaufrufe auf US-Seiten auf Seiten mit hauptsächlich unoriginellen Inhalten oder Material von begrenzter Originalität.
  • Trollfarmen fanden zuvor Eingang in die Partnerschaftsprogramme Instant Articles und Ad Breaks von Facebook, die Nachrichtenorganisationen und anderen Herausgebern helfen sollen, ihre Artikel und Videos zu Geld zu machen. Aufgrund fehlender grundlegender Qualitätsprüfungen gingen zu einem bestimmten Zeitpunkt bis zu 60 % der Instant Article-Lesevorgänge auf Inhalte zurück, die von anderer Stelle plagiiert worden waren. Dies machte es Trollfarmen leicht, sich unbemerkt einzumischen und sogar Zahlungen von Facebook zu erhalten.

Wie Facebook Trollfarmen ermöglicht und sein Publikum vergrößert

Der Bericht befasst sich speziell mit Trollfarmen im Kosovo und in Mazedonien, die von Leuten betrieben werden, die nicht unbedingt die amerikanische Politik verstehen. Aufgrund der Art und Weise, wie die Newsfeed-Belohnungssysteme von Facebook konzipiert sind, können sie dennoch einen erheblichen Einfluss auf den politischen Diskurs haben.

Sie hat alles riskiert, um Facebook zu entlarven. Jetzt erzählt sie ihre Geschichte.

Sophie Zhang, eine ehemalige Datenwissenschaftlerin bei Facebook, enthüllte, dass es globale politische Manipulationen ermöglicht und wenig getan hat, um sie zu stoppen.

In dem Bericht nennt Allen drei Gründe, warum diese Seiten ein so großes Publikum erreichen können. Erstens bestraft Facebook Seiten nicht für das Posten völlig unorigineller Inhalte. Wenn etwas zuvor viral gegangen ist, wird es wahrscheinlich erneut viral, wenn es ein zweites Mal gepostet wird. Dies macht es zum Beispiel wirklich jedem leicht, eine große Fangemeinde unter schwarzen Amerikanern aufzubauen. Bösewichte können einfach virale Inhalte von Seiten schwarzer Amerikaner oder sogar von Reddit und Twitter kopieren und auf ihrer eigenen Seite – oder manchmal auf Dutzenden von Seiten – einfügen.

Zweitens sendet Facebook ansprechende Inhalte auf Seiten an Personen, die ihnen nicht folgen. Wenn Freunde von Benutzern Beiträge auf einer dieser Seiten kommentieren oder erneut teilen, sehen diese Benutzer dies auch in ihren Newsfeeds. Je öfter der Inhalt einer Seite kommentiert oder geteilt wird, desto mehr verbreitet er sich über seine Follower hinaus. Das bedeutet, dass Trollfarmen, deren Strategie sich darauf konzentriert, die ansprechendsten Inhalte neu zu veröffentlichen, eine übergroße Fähigkeit haben, neue Zielgruppen zu erreichen.

Drittens schiebt das Ranking-System von Facebook ansprechendere Inhalte in den Newsfeeds der Benutzer nach oben. Meistens haben die Leute, die Trollfarmen betreiben, eher finanzielle als politische Motive; Sie posten das, was am meisten Engagement erhält, ohne Rücksicht auf den tatsächlichen Inhalt. Da aber Fehlinformationen, Clickbait und politisch spaltende Inhalte mit größerer Wahrscheinlichkeit auf ein hohes Engagement stoßen (wie Facebooks eigene interne Analysen bestätigen), tendieren Trollfarmen dazu, im Laufe der Zeit mehr davon zu posten, heißt es in dem Bericht.

Infolgedessen wurden im Oktober 2019 alle 15 Top-Seiten mit Ausrichtung auf christliche Amerikaner, 10 der Top-15-Facebook-Seiten mit Ausrichtung auf schwarze Amerikaner und vier der Top-12-Facebook-Seiten mit Ausrichtung auf Indianer von Trollfarmen betrieben.

Unsere Plattform hat einer Handvoll schlechter Schauspieler, die aufgrund ihrer Medienproduktionspraktiken noch nie in der Kirche waren, die größte Stimme in der christlich-amerikanischen Gemeinschaft gegeben, schrieb Allen. Unsere Plattform hat einer Handvoll schlechter Schauspieler, die aufgrund ihrer Medienproduktionspraktiken noch nie eine Interaktion mit einem Afroamerikaner hatten, die größte Stimme in der afroamerikanischen Gemeinschaft verliehen.

Review: Warum sich Facebook nie selbst reparieren kann

In An Ugly Truth enthüllen die Reporterinnen Sheera Frenkel und Cecilia Kang die grundlegenden Fehler von Facebook durch einen detaillierten Bericht über die Jahre zwischen zwei US-Wahlen.

Es wird mir immer zutiefst seltsam erscheinen … und wirklich erschreckend, schrieb er. Es scheint ganz klar, dass wir, bis diese Situation behoben werden kann, immer ernsthaften Gegenwind spüren werden, wenn wir versuchen, unsere Mission zu erfüllen.

Der Bericht schlug auch eine mögliche Lösung vor. Dies ist bei weitem nicht das erste Mal, dass die Menschheit gegen schlechte Akteure in unseren Medienökosystemen kämpft, schrieb er und verwies auf Googles Verwendung eines sogenannten graphbasierten Autoritätsmaßes – das die Qualität einer Webseite danach bewertet, wie oft sie zitiert und wird von anderen hochwertigen Webseiten zitiert, um schlechte Schauspieler in ihren Suchrankings abzuwerten.

wie man ai macht

Wir haben unsere eigene Implementierung eines graphbasierten Autoritätsmaßes, fuhr er fort. Wenn die Plattform diese bestehende Metrik beim Ranking von Seiten stärker berücksichtigen würde, könnte dies dazu beitragen, den beunruhigenden Trend umzukehren, dass Seiten das breiteste Publikum erreichen.

Wenn Facebooks Rankings Engagement priorisieren, schlagen Trollfarm-Seiten authentische Seiten, schrieb Allen. Aber 90 % der Troll Farm Pages haben genau 0 Graph Authority … [authentische Seiten] gewinnen eindeutig.

Systemische Probleme

Eine Durchsuchung aller im Bericht aufgeführten Trollfarmseiten zeigt, dass fünf noch fast zwei Jahre später aktiv sind:

  • Eine Seite namens My Baby Daddy Ain’t Shit, die im Oktober 2019 die größte Facebook-Seite war, die sich an Afroamerikaner richtete.
  • Eine Seite namens Savage Hood, die sich an Afroamerikaner richtet.
  • Eine Seite namens Hood Videos, die sich an Afroamerikaner richtet.
  • Eine Seite namens Zweck des Lebens, die sich an Christen richtet.
  • Eine Seite namens Eagle Spirit, die auf Indianer abzielt.

Eine Trollfarm-Seite, die auf christliche Amerikaner abzielt.

Facebook ist zuletzt umstritten Bericht zu häufig angesehenen Inhalten deutet darauf hin, dass einige der Kernschwachstellen, die die Trollfarmen ausgenutzt haben, ebenfalls bestehen bleiben. Fünfzehn der 19 meistgesehenen Posts sind im Bericht aufgeführt waren plagiiert von anderen Beiträgen, die zuvor auf Facebook oder einer anderen Plattform viral geworden waren, so eine Analyse von Casey Newton von The Vergine.

Samantha Bradshaw, Postdoktorandin an der Stanford University, die die Schnittstelle von Desinformation, sozialen Medien und Demokratie untersucht, sagt, der Bericht spricht viele der tieferen systemischen Probleme mit der Plattform und ihrem Algorithmus in der Art und Weise an, wie sie bestimmte Arten von Inhalt für bestimmte Benutzer, alles nur basierend auf diesem zugrunde liegenden Wert des Wachstums. Wenn diese nicht behoben werden, werden sie weiterhin verzerrte, wirtschaftliche Anreize für schlechte Akteure schaffen, fügt sie hinzu: Das ist das Problem.

Lesen Sie hier den vollständigen Bericht:

verbergen

Tatsächliche Technologien

Kategorie

Unkategorisiert

Technologie

Biotechnologie

Technologierichtlinie

Klimawandel

Mensch Und Technik

Silicon Valley

Computer

Mit News Magazine

Künstliche Intelligenz

Platz

Intelligente Städte

Blockchain

Reportage

Alumni-Profil

Alumni-Verbindung

Mit News Feature

1865

Meine Sicht

77 Mass Avenue

Treffen Sie Den Autor

Profile In Großzügigkeit

Auf Dem Campus Gesehen

Lerne Den Autor Kennen

Alumni-Briefe

Nicht Kategorisiert

77 Massenallee

Rechnen

Tech-Richtlinie

Lernen Sie Den Autor Kennen

Nachrichten

Wahl 2020

Mit Index

Unter Der Kuppel

Feuerwehrschlauch

Unendliche Geschichten

Pandemie-Technologieprojekt

Vom Präsidenten

Titelstory

Fotogallerie

Empfohlen