Događaji iz stvarnog svijeta potiču porast internetskog govora mržnje, otkriva studija

Gornji red

Događaji u stvarnom svijetu poput izbora i prosvjeda mogu dovesti do skokova u online govoru mržnje na glavnim i rubnim platformama, studija objavljena u srijedu u časopisu PLOS ONE, s objavama mržnje u porastu iako mnoge platforme društvenih medija pokušavaju to riješiti.

Ključne činjenice

Koristeći analizu strojnog učenja – način analiziranja podataka koji automatizira izgradnju modela – istraživači su promatrali sedam vrsta internetskog govora mržnje u 59 milijuna postova korisnika 1,150 internetskih zajednica mržnje, internetskih foruma u kojima se najvjerojatnije koristi govor mržnje, uključujući na stranicama kao što su Facebook, Instagram, 4Chan i Telegram.

Ukupan broj objava koje uključuju govor mržnje u sedmodnevnom tekućem prosjeku rastao je tijekom studije, koja je trajala od lipnja 2019. do prosinca 2020., povećavši se za 67% sa 60,000 na 100,000 dnevnih objava.

Ponekad je govor mržnje korisnika društvenih medija rastao i obuhvaćao skupine koje nisu bile uključene u događaje u stvarnom svijetu tog vremena.

Među primjerima koje su istraživači primijetili bio je porast vjerskog govora mržnje i antisemitizma nakon američkog atentata na iranskog generala Qasema Soleimanija početkom 2020., te porast vjerskog i rodnog govora mržnje nakon američkih izbora u studenom 2020., tijekom kojih je Kamala Harris bila izabrana za prvu potpredsjednicu.

Unatoč naporima pojedinih platformi da uklone govor mržnje, internetski govor mržnje i dalje postoji, prema istraživačima.

Istraživači su istaknuli medijsku pozornost kao jedan od ključnih čimbenika u poticanju postova povezanih s mržnjom: Na primjer, bilo je malo medijske pozornosti kada je policija prvi put ubila Breonnu Taylor, pa su stoga istraživači pronašli minimalan govor mržnje na internetu, ali kada je George Floyd ubijen nekoliko mjeseci kasnije a medijska pažnja rasla, pa i govor mržnje.

Veliki broj

250%. Za toliko je porasla stopa govora rasne mržnje nakon ubojstva Georgea Floyda. Bio je to najveći porast govora mržnje koji su istraživači otkrili u razdoblju istraživanja.

Ključna pozadina

Govor mržnje godinama muči društvene mreže: platforme poput Facebook i X / Twitter imaju politiku zabrane govora mržnje i obećali su ukloniti uvredljiv sadržaj, ali to nije eliminiralo širenje ovih objava. Ranije ovog mjeseca, gotovo dva tuceta neovisnih imenovanih od strane UN-a pozvali su stručnjaci za ljudska prava više odgovornosti platformi društvenih medija kako bi se smanjila količina internetskog govora mržnje. A stručnjaci za ljudska prava nisu jedini u svojoj želji da društvene mreže učine više: Prosinac USA Today-istraživanje Sveučilišta Suffolk pokazalo je da 52% ispitanika kaže da bi platforme društvenih medija trebale ograničiti sadržaj pun mržnje i netočan sadržaj, dok 38% kaže da bi stranice trebale biti otvoreni forum.

Tangens

Nekoliko dana nakon što je milijarder Elon Musk zaključio svoj ugovor o kupnji Twittera prošle godine, obećavajući ublažavanje pravila moderiranja stranice, stranica je zabilježila "naval mržnje", prema Yoelu Rothu, Twitterov bivši voditelj sigurnosti i integriteta. U to je vrijeme Roth tvitao da je sigurnosni tim uklonio više od 1,500 računa zbog ponašanja mržnje u razdoblju od tri dana. Musk se suočio s oštrim kritikama od strane zagovaračkih skupina koje tvrde da je pod Muskovim vodstvom i s ublažavanjem propisa o govoru, količina govora mržnje na Twitteru dramatično porasla, iako je Musk inzistirao dojmovi na tweetove pune mržnje su se smanjili.

Daljnje čitanje

Šef službe za sigurnost na Twitteru priznaje 'navalu mržnje' jer formular navodno ograničava pristup alatima za moderiranje (Forbes)

Neke rezerve o zahtjevu dosljednosti za odluke o moderiranju sadržaja društvenih medija. (Forbes)

Što bi kreatori politike trebali učiniti kako bi potaknuli bolju moderaciju sadržaja platforme? (Forbes)