Риторику ненависти (т.н. hate speech) и экстремистские высказывания в интернете связывают со множеством событий в реальной жизни: преступлениями на почве ненависти, самоубийствами людей из-за травли в интернете, шутингами. Социальные сети ищут способы борьбы с подобными объединениями людей на своих площадках, но не очень в этом преуспевают.
Текущие стратегии по борьбе с онлайн-ненавистью, пишут авторы статьи, вышедшей сегодня в Nature, мечутся между двумя крайностями: либо действовать на микроуровне, то есть идентифицировать «плохих» людей в море онлайн-пользователей и применять к ним карающие санкции, либо действовать на макроуровне и запрещать в принципе обсуждать на своих платформах какие-то темы, что также не оптимально, поскольку уязвимо для обвинений в нарушении свободы слова. Эти подходы, по мнению авторов статьи, сродни попыткам взвалить ответственность за кипение воды на одну из миллиардов капель — в противовес обвинению всей воды вообще в том, что она может закипать.
Поэтому три физика и один специалист по компьютерным наукам решили исследовать, как связываются подобные группы между двумя крупными социальными сетями — Facebook и VK. Для этого исследования они сконцентрировались только на группах крайне правых убеждений, которые они идентифицировали по специфическим словам и хештегам в текстах или названиях самих виртуальных сообществ. Тематически близкие группы объединяли в один кластер, а затем искали связи уже между ними.
Делалось это так. Исследователи начали с одного заданного кластера и фиксировали каждый кластер, с которым был связан первый — например, через большое число общих подписчиков или ссылки друг на друга в постах. По такой цепочке им удалось идентифицировать 768 кластеров и 578 связей между ними.
Проанализировав получившуюся карту взаимосвязей между «кластерами ненависти», ученые пришли к выводу, что связываются целыми «магистралями ненависти», которые свободно перетекают между странами и континентами и переключаются между языками.
Связи, обеспечивающие устойчивость «кластеров ненависти», ученые разделили на три типа. Во-первых, сообщества могут создавать «зеркала» своих групп на других платформах, и участники могут с легкостью их найти, если оригинальную группу забанили на другой. Во-вторых, они могут возрождаться в новом виде и под новым названием, но с тем же содержанием. Наконец, перекрестные ссылки между разными сообществами способствуют перетоку пользователей и идей между ними.
С опорой на это ученые предлагают свои методы борьбы с риторикой ненависти в социальных сетях. Во-первых, соцсетям стоит чаще прибегать к тактике «разъединять и властвовать», т.е. снижать мощность больших кластеров, борясь с входящими в них кластерами и группами. Уменьшение числа сравнительно малых групп не даст экстремистам вновь восстановить связность своей сети, просто поменяв центральную площадку, — это помешает появлению больших кластеров. Во-вторых, ученые рекомендуют иногда прибегать к случайным блокировкам доли наиболее активных участников нежелательных для них сообществ, чтобы ослабить сеть. Остальные члены сообщества будут напуганы, но, так как репрессии будут не массовыми, скандала и, соответственно, каких-либо юридических последствий компании, скорее всего, удастся избежать.
Наконец, можно следовать примеру Facebook, который устроил «встречу» между кластерами ненависти и сообществом Life After Hate, участники которого — бывшие экстремисты, изменившие своим взглядам. Поиск в фейсбуке по ключевым словам, характерным для лозунгов ультраправых, выводит пользователя на группу Life After Hate — таким образом, считают в компании, им удается «навести мосты» между противоположными лагерями и дать возможность экстремистам хотя бы смягчить свою позицию.
Четвертая практика подобна предыдущей, только она предполагает столкновения между, казалось бы, близкими идеологически сообществами. Между близкими идеологическими группами существуют разногласия в некоторых деталях, и это также может заставить их ругаться между собой. Это, по мнению исследователей, также будет затруднять рост и нарушать связность кластеров. Все эти методы должны ослаблять и рассеивать кластеры, а также разрушать связи между ними.
Евгения Щербина