Händelser från verkliga världen ökar antalet hatretorik online, visar studien

Översta raden

Händelser i den verkliga världen som val och protester kan leda till toppar i hatretorik online på både vanliga och främmande plattformar, en studie publicerad i onsdags i tidskriften PLOS ONE hittade, med hatinlägg svallande även när många sociala medieplattformar försöker slå ner.

Nyckelfakta

Med hjälp av maskininlärningsanalys – ett sätt att analysera data som automatiserar modellbyggande – tittade forskare på sju typer av hatretorik online i 59 miljoner inlägg av användare av 1,150 4 hatgemenskaper online, onlineforum där hatretorik mest sannolikt kommer att användas, inklusive på sajter som Facebook, Instagram, XNUMXChan och Telegram.

Det totala antalet inlägg inklusive hatretorik i ett sju dagars rullande medelvärde utvecklades uppåt under studiens gång, som pågick från juni 2019 till december 2020, och ökade med 67 % från 60,000 100,000 till XNUMX XNUMX dagliga inlägg.

Ibland växte sociala medieanvändares hatretorik till att omfatta grupper som inte var inblandade i den tidens verkliga händelser.

Bland de fall forskare noterade var en ökning av religiöst hatretorik och antisemitism efter det amerikanska mordet på den iranske generalen Qasem Soleimani i början av 2020, och en ökning av religiösa och genusmässiga hatretorik efter det amerikanska valet i november 2020, under vilket Kamala Harris var vald till den första kvinnliga vice ordföranden.

Trots enskilda plattformars ansträngningar att ta bort hatretorik, fortsatte hatretorik på nätet att bestå, enligt forskare.

Forskare pekade på mediauppmärksamhet som en nyckelfaktor för att driva hatrelaterade inlägg: Till exempel var det lite medieuppmärksamhet när Breonna Taylor först dödades av polisen, och därför fann forskare minimalt med hatretorik på nätet, men när George Floyd dödades månader senare och mediauppmärksamhet växte, så även hatpropaganda.

Stort antal

250 %. Så mycket ökade andelen rasistiska hatpropaganda efter mordet på George Floyd. Det var den största ökningen av hattalsforskare som hittats under studieperioden.

Nyckelbakgrund

Hattal har irriterat sociala nätverk i åratal: Plattformar som Facebook och Twitter har policyer som förbjuder hattal och har lovat att ta bort stötande innehåll, men det har inte eliminerat spridningen av dessa inlägg. Tidigare denna månad, nästan två dussin FN-utnämnda oberoende människorättsexperter uppmanas mer ansvarighet från sociala medieplattformar för att minska mängden hatretorik online. Och människorättsexperter är inte ensamma om sin önskan att företag i sociala medier ska göra mer: En december USA Today-Suffolk University undersökning fann 52 % av de tillfrågade sa att sociala medieplattformar borde begränsa hatiskt och felaktigt innehåll, medan 38 % sa att webbplatser borde vara ett öppet forum.

Tangent

Dagar efter att miljardären Elon Musk stängde sitt avtal om att köpa Twitter förra året och lovade en uppmjukning av sajtens modereringspolicy, såg sajten en "ökning av hatiskt beteende." enligt Yoel Roth, Twitters tidigare chef för säkerhet och integritet. Vid den tiden twittrade Roth att säkerhetsteamet tog ner mer än 1,500 XNUMX konton för hatiskt beteende under en tredagarsperiod. Musk har mött skarp kritik från förespråkargrupper som hävdar att under Musks ledning, och med uppmjukning av reglerna för uttalanden, har volymen av hatretorik på Twitter ökat dramatiskt, även om Musk har insisterade intrycken på hatiska tweets har minskat.

Ytterligare läsning

Säkerhetschefen på Twitter erkänner "Surge in Hateful Conduct" eftersom form enligt uppgift begränsar tillgången till modereringsverktyg (Forbes)

Vissa reservationer om ett konsekvenskrav för beslut om moderering av innehåll i sociala medier. (Forbes)

Vad bör beslutsfattare göra för att uppmuntra bättre moderering av plattformsinnehåll? (Forbes)