Събития от реалния свят водят до увеличаване на речта на омразата онлайн, установява проучване

Горна линия

Събития в реалния свят като избори и протести могат да доведат до пикове в онлайн речта на омразата както в основните, така и в периферните платформи, проучване, публикувано в сряда в списанието PLOS ONE, с публикации на омраза, които нарастват, въпреки че много социални медийни платформи се опитват да се справят с тях.

Ключови факти

Използвайки анализ на машинно обучение - начин за анализиране на данни, който автоматизира изграждането на модели - изследователите разгледаха седем вида онлайн реч на омразата в 59 милиона публикации от потребители на 1,150 онлайн общности на омраза, онлайн форуми, в които е най-вероятно да се използва реч на омразата, включително на сайтове като Facebook, Instagram, 4Chan и Telegram.

Общият брой на публикациите, включващи реч на омразата, в седемдневна подвижна средна тенденция се повишава в хода на проучването, което се проведе от юни 2019 г. до декември 2020 г., като се увеличава с 67% от 60,000 100,000 на XNUMX XNUMX дневни публикации.

Понякога речта на омразата на потребителите на социални медии се разрасна, за да обхване групи, които не бяха ангажирани със събитията в реалния свят на времето.

Сред случаите, отбелязани от изследователите, е нарастването на речта на религиозната омраза и антисемитизма след убийството на САЩ на иранския генерал Касем Солеймани в началото на 2020 г. и нарастването на религиозната реч и речта на омразата по пол след изборите в САЩ през ноември 2020 г., по време на които Камала Харис беше избрана за първата жена вицепрезидент.

Въпреки усилията на отделните платформи да премахнат речта на омразата, онлайн речта на омразата продължава да съществува, според изследователите.

Изследователите посочиха медийното внимание като един от ключовите фактори за стимулиране на публикации, свързани с омраза: например, имаше малко медийно внимание, когато Бреона Тейлър беше убита за първи път от полицията, и по този начин изследователите откриха минимална онлайн реч на омразата, но когато Джордж Флойд беше убит месеци по-късно и медийното внимание нарасна, както и речта на омразата.

Голям брой

250%. С толкова се е увеличил процентът на речта на расова омраза след убийството на Джордж Флойд. Това беше най-големият скок в речта на омразата, открит от изследователите през периода на изследването.

Основен фон

Речта на омразата измъчва социалните мрежи от години: Платформи като Facebook намлява Twitter имат политики, забраняващи изказването на омраза, и са обещали да премахнат обидно съдържание, но това не е елиминирало разпространението на тези публикации. По-рано този месец близо две дузини независими лица, назначени от ООН призоваха експерти по правата на човека повече отчетност от платформите на социалните медии, за да се намали количеството онлайн реч на омразата. И експертите по правата на човека не са сами в желанието си компаниите за социални медии да направят повече: декември Проучване на USA Today-University Suffolk установи, че 52% от респондентите казват, че платформите на социалните медии трябва да ограничават насаждащото омраза и неточно съдържание, докато 38% казват, че сайтовете трябва да бъдат отворен форум.

Допирателна

Дни след като милиардерът Илон Мъск приключи сделката си за закупуване на Twitter миналата година, обещавайки облекчаване на политиките за модериране на сайта, сайтът видя „скок в омразно поведение“, според Йоел Рот, бивш ръководител на отдела за безопасност и почтеност на Twitter. По това време Рот туитна, че екипът по безопасността е свалил повече от 1,500 акаунта за омразно поведение за период от три дни. Мъск беше изправен пред остри критики от защитнически групи, които твърдят, че под ръководството на Мъск и с облекчаване на регулациите за речта обемът на речта на омразата в Twitter е нараснал драстично, въпреки че Мъск настоя импресиите за омразни туитове са намалели.

Допълнителна информация

Ръководителят на отдела по безопасността в Twitter признава „нарастване на омразно поведение“, тъй като според съобщенията формулярът ограничава достъпа до инструментите за модериране (Forbes)

Някои резерви относно изискването за последователност при решенията за модериране на съдържание в социалните медии. (Forbes)

Какво трябва да направят политиците, за да насърчат по-доброто модериране на съдържанието на платформата? (Forbes)