Reddits Automoderator ist die Zukunft des Internets und zutiefst unvollkommen

Bild eines Mannes, der Computercode drei Monitore betrachtet Automoderator Automod moderiert reddit

Bild eines Mannes, der Computercode drei Monitore betrachtet Automoderator Automod moderiert redditJefferson Santos über Unsplash

In den letzten vier Jahren hat Shagun Jhaver mehrere Subreddits moderiert, fleißig durch Seiten gescrollt und Beiträge blockiert, die gegen Community-Regeln verstoßen oder offenkundig anstößig sind.

Als Doktorand an der Georgia Tech, dessen Forschung sich auf die Moderation von Inhalten konzentriert, fragte sich Jhaver, ob ihm ein automatischer Moderator helfen könnte, nicht nur Zeit, sondern auch die mentale Belastung durch das Sichten psychologisch erschöpfender Inhalte zu sparen. Zusammen mit drei Kollegen machte er sich also daran, herauszufinden, ob ein automatischer Moderator – in diesem Fall AutoMod – eigentlich funktioniert.



Das Team moderierte persönlich mehrere Seiten auf Reddit und führte dann Interviews mit 16 anderen Moderatoren einiger der beliebtesten Subreddits auf der Website – darunter jeweils r/photoshopbattles, r/space, r/explainlikeimfive, r/oddlysatisfying und r/politics davon hat Millionen von Abonnenten. Alle verlassen sich auf AutoMod, um ihnen bei der Moderation zu helfen. Jhaver präsentiert die arbeiten nächste Woche beim ACM-Konferenz zu computergestützter kooperativer Arbeit und Social Computing .

Menschen- und Tierrasse

Social-Media-Plattformen wie Facebook , Instagram und YouTube verlassen sich seit langem auf menschliche Moderatoren, um Inhalte manuell zu durchsuchen und gewalttätiges und anstößiges Material zu entfernen, das von rassistischen und sexistischen Hassreden bis hin zu anschaulichen Videos von Massenerschießungen reicht. Moderatoren arbeiten oft auf Vertragsbasis, zum Mindestlohn mit wenigen Sozialleistungen und können lange Stunden abziehen, während sie mit Inhalten überhäuft werden nimmt einen erheblichen Tribut von ihrer psychischen Gesundheit .

Automoderatoren sind ein Versuch, die Langeweile und die negativen Auswirkungen solcher Arbeit zu mildern. AutoMod wurde von Redditor Chad Birch entwickelt, um seine Fähigkeit zur Moderation des R/Gaming-Kanals zu verbessern. Es ist ein regelbasiertes Tool zum Identifizieren von Wörtern, die gegen die Posting-Richtlinien einer bestimmten Seite verstoßen. Seitdem ist es weit verbreitet – Reddit hat es 2015 auf der gesamten Website eingeführt, und die äußerst beliebten Game-Streaming-Plattformen Twitch und Discord folgten bald darauf.

Ob AutoMod tatsächlich ein Zeitsparer ist, ist allerdings fraglich. Auf der einen Seite sind Automoderatoren sehr gut in dem, was sie tun – wenn sie darauf programmiert sind, Schimpfwörter zu finden, werden sie Beiträge, die sie enthalten, ausnahmslos finden und blockieren. Es kann Benachrichtigungen über problematische Inhalte an Poster senden, was laut Jhaver lehrreich ist, da Autoren erfahren können, was mit dem, was sie gepostet haben, nicht in Ordnung war.

Das ist keine Kleinigkeit. Wie Jhaver und seine Kollegen feststellen, wurden zwischen März und Oktober 2018 etwa 22 % aller Beiträge auf Reddit entfernt. Das entspricht etwa 17,4 Millionen Beiträgen in diesem Zeitraum.

Aber nehmen wir an, das Wort ist wichtig für den Kontext in der Post – eine Diskussion im Jahr 2016 über den berüchtigten baldigen Präsidenten Donald Trump Kommentar über das Greifen der Genitalien einer Frau , zum Beispiel. Solche Posts würden wegen der anstößigen Sprache gemeldet, obwohl die Diskussion dieser Sprache in erster Linie der Sinn des Posts ist. Laut Jhaver frustriert dies die Benutzer, die dann zurückgehen und die Moderatoren bitten müssen, den Beitrag wiederherzustellen.

Und in einer Social-Media-Welt, in der beunruhigende Inhalte zunehmend aus anstößigen Memes, Live-Streams von Schießereien oder anderen visuellen, textlosen Inhalten bestehen, ist AutoMods Abhängigkeit von der Suche nach Schlüsselwörtern eine große Belastung.

Steuergutschriften für Sonnenkollektoren 2015

Robert Peck, Moderator der großen Subreddits r/pics und r/aww, weiß das nur zu gut. Jede dieser Seiten ist bildgesteuert, und jede hat Millionen von Followern, die weitaus mehr Inhalte posten, als irgendjemand vernünftigerweise verlangen könnte, sie zu sichten.

Trotzdem sagt er, dass AutoMod seine Arbeit erleichtert hat, obwohl es keine Bilder analysieren kann. Benutzer fügen Bildern direkt Deskriptoren hinzu, und wir können diese Titel überprüfen, sagt er. Wir suchen nach Kontofett oder Spam, die Konten haben, die Posts automatisieren. Sie verwenden oft Klammern. Wir können AutoMod anweisen, nach diesen Mustern zu suchen.

Ob es Ihnen gefällt oder nicht, AutoMod und seinesgleichen sind die Zukunft der Moderation sozialer Plattformen. Es wird wohl immer unvollkommen bleiben, denn Maschinen sind noch weit davon entfernt, die menschliche Sprache wirklich zu verstehen. Aber genau darum soll es bei der Automatisierung gehen: Menschen Zeit für mühsame oder unangenehme Aufgaben zu sparen. Die Möglichkeit, sich auf Beiträge zu konzentrieren, die eine menschliche Note erfordern, macht die Arbeit eines Moderators umso wertvoller und ermöglicht es sowohl Moderatoren als auch Postern, sich auf bessere Gespräche zu konzentrieren.

Es wird nicht das Problem lösen, dass Leute böse, böswillige oder anderweitig schädliche Inhalte posten – das wird immer noch eines der heikelsten Probleme sein, die das moderne Internet plagen. Aber es macht einen Unterschied. Peck sagt, er sei dankbar für die Fähigkeit von AutoMod, ihm bei der Stapelverarbeitung von Beiträgen zu helfen. Es ist ein leistungsstarkes Stück Technologie und ziemlich benutzerfreundlich – bei weitem nicht so schwierig, einen gleichwertigen Bot zu programmieren, sagt er. [AutoMod] ist mein leistungsfähigstes Werkzeug, und ohne es wäre ich aufgeschmissen.

verbergen

Tatsächliche Technologien

Kategorie

Unkategorisiert

Technologie

Biotechnologie

Technologierichtlinie

Klimawandel

Mensch Und Technik

Silicon Valley

Computer

Mit News Magazine

Künstliche Intelligenz

Platz

Intelligente Städte

Blockchain

Reportage

Alumni-Profil

Alumni-Verbindung

Mit News Feature

1865

Meine Sicht

77 Mass Avenue

Treffen Sie Den Autor

Profile In Großzügigkeit

Auf Dem Campus Gesehen

Lerne Den Autor Kennen

Alumni-Briefe

Nicht Kategorisiert

77 Massenallee

Rechnen

Tech-Richtlinie

Lernen Sie Den Autor Kennen

Nachrichten

Wahl 2020

Mit Index

Unter Der Kuppel

Feuerwehrschlauch

Unendliche Geschichten

Pandemie-Technologieprojekt

Vom Präsidenten

Titelstory

Fotogallerie

Empfohlen