Цивилизация
Кошмар наяву
В начале июня проблема размещения шок-контента в интернете привлекла к себе внимание широкой публики – в Брянске разразился скандал, связанный с действиями местных стримеров. По данным СМИ, злоумышленники якобы насильно удерживают у себя некоего мужчину, чтобы записывать эфиры с издевательствами над ним и зарабатывать на этом, причем продолжается это долгое время. Проверкой размещенных в сети записей уже занялось Управление МВД по Брянской области.
Востребованность подобного контента чрезвычайно велика, говорит директор Лиги безопасного интернета (ЛБИ) Екатерина Мизулина, и решить эту проблему помогло бы саморегулирование со стороны социальных сетей и мессенджеров, но пока они не слишком заинтересованы в сотрудничестве с государством.
«Если говорить о шок-контенте, к которому, по сути, относится брянская история, то мы получаем достаточно много жалоб от родителей и вообще от российских пользователей Сети в связи с распространением такого рода контента. Это очень большая проблема – за прошлый год мы получили примерно 6,5 тысяч обращений такого рода, и примерно такими же были и цифры в 2018 году. Если говорить о группах шок-контента в детской среде, то, по нашим данным на конец 2019 года, количество таких групп с сентября 2017 года выросло в 2,5 раза, число вовлеченных пользователей составило примерно 870 000 человек, из них примерно 300 000 человек – это подростки», — делится безрадостной статистикой Мизулина.
По ее словам, эти группы находятся в очень активной стадии роста, то есть количество подписчиков будет только расти – в ЛБИ видят такую тенденцию и в этом году. Это один из видов деструктивных групп и сообществ, распространяемых среди детей, а их достаточно много. Основные – это school shooting; группы, посвященные серийным, массовым убийствам; кибербуллинг; ультрадвижение, которое в себя вобрало группы АОЕ, околофутбольных хулиганов; группы, продвигающие употребление наркотиков, и суицидальные группы – их становится меньше, но, тем не менее, они есть.
Член Общественной палаты РФ Александр Малькевич считает, что соцсети должны нести ответственность за размещаемый контент. Другое дело, что могут быть разные формы и разного уровня наказания, которые прописываются в законах государства, отмечает он.
«Но то, что, на мой взгляд, Россия должна законом установить некие правовые рамки, в которых социальные сети могут, например, заниматься саморегулированием – это совершенно очевидно. Попытка социальных сетей устраниться от того, что делают пользователи на их площадке – никто уже в это не верит. Мы же видим, что происходит на Западе: Twitter начинает удалять вообще каждый второй пост, который не устраивает каких-то анонимных модераторов, блокирует публикации президента США, Facebook помечает посты и даже аккаунты российских СМИ, YouTube удаляет аккаунты людей и СМИ, которые ему не нравится. При этом это всегда какие-то непонятные модераторы, которых никто не знает. А у нас другая крайность: публикуется все, что попало, и никто за это не несет ответственности», — сетует он.
По его словам, механизмы саморегулирования необходимы, но при этом, чтобы избежать цензуры, должны быть четкие, понятные критерии, которые желательно определить самим социальным сетям в дискуссии с экспертным сообществом и гражданами.
«Государство должно обозначить эти рамки, потому что, на мой взгляд, сейчас социальные сети в отношении авторов контента со сценами насилия не принимают никаких особенных мер. В качестве иллюстрации я могу привести совершенно дикую историю из Брянской области, где так называемые стримеры, оказывается, уже больше года показывают видео и собирали донаты от зрителей, показывая видео, о том как они, в том числе и по просьбе каких-то больных фанатов, измывались над каким-то мужчиной: закапывали его в могилу, заставляли пить всякую гадость, обливали помоями, и так далее. Они измывались над ним, фактически пытали, делали это все в эфире, и за это еще получали деньги», — досадует Малькевич.
Похожий трагический случай, ставший достоянием широкой общественности, был и в прошлом году — речь идет о китайском стримере по имени Чу, который зарабатывал донаты тем, что каждый день пил то, что ему говорили, приказывали его зрители.
Через 3 месяца он умер, причем фактически в прямом эфире, когда его организм перестал справляться с той гадостью, которую его заставляли пить, рассказывает эксперт. Для него это был заработок, но такого рода контент неприемлем в Сети, и здесь должны ставить заслон именно модераторы, уверен Малькевич.
Ответственная безответственность
Аналогичного мнения придерживается и Екатерина Мизулина. По ее словам, у социальных сетей и мессенджеров не должно быть иммунитета – они должны нести ответственность за контент, размещаемый на их площадках, наравне с пользователями.
«Для соцсетей и мессенджеров нужно вводить дополнительные обязанности в законодательстве по модерации недостоверного либо деструктивного контента. Почему они должны нести ответственность наравне с пользователем? Потому что пользователь не просто так приходит на эту площадку – он приходит потому, что у площадки есть большой охват, она популярна, и именно площадка дает толчок его публикации. Поэтому, безусловно, площадка должна быть в одинаковых условиях с тем пользователем, который публикует ту или иную информацию», — поясняет позицию ЛБИ Мизулина.
По ее словам, еще один немаловажный момент состоит в том, что площадки и так занимаются модерацией разного рода контента. В основном они делают это на свой вкус, по своему усмотрению: не всегда понятно, по каким причинам они блокируют ту или иную информацию, сетует эксперт. Но при этом, как подчеркивает Мизулина, они почему-то остаются в стороне от той информации, которая действительно беспокоит российских граждан, и не хотят принимать меры по ее удалению и блокировке.
«Существующая практика говорит о том, что механизм, который есть сейчас, практически не работает и не позволяет оградить граждан от распространения такого рода деструктивной информации – в первую очередь детей, так как именно существенная доля юных граждан находится под влиянием подобного контента. Дело в том, что действующая процедура очень медленная. С момента обнаружения информации до ее блокировки может пройти месяц, и за это время видеоролик достигает 15 млн просмотров. И это в основном детская, подростковая среда. Скорость работы нашей регулирующей машины, нашего законодательства в нынешних условиях отстает от скорости распространения информации», — говорит глава Лиги безопасного интернета.
Соцсети, по ее словам, реагируют по-разному, но в основном никакой активности они не проявляют – особенно если говорить о YouTube, который не реагирует ни на жалобы пользователей, ни на жалобы общественных организаций, ни на запросы правоохранительных органов. Единственный вариант – это внести определенный адрес страницы в Реестр запрещенных сайтов. Но проблема состоит в том, что, к сожалению, эти видео еще и копируются пользователями, и дальше они появляются в других социальных сетях. Каждое такое видео нужно выявлять и проводить дополнительную работу.
«Соцсети, безусловно, должны нести ответственность, потому что такого рода деструктивная информация вредит не только психическому, но зачастую, к сожалению, и физическому здоровью граждан. Если говорить о детях, то последствия совершенно непредсказуемы: какой-то ребенок посмотрит и посмеется, перешлет друзьям, а какой-то пойдет и совершит какие-то действия, которые могут нанести ущерб здоровью и жизни. Либо может повторить увиденное, если говорить о каких-то насильственных действиях. В отношении многих из этих групп не требуется проводить никакой экспертизы контента или обладать особой квалификацией, чтобы понимать, что это материалы не для детей», — уверяет Екатерина Мизулина.
По мнению главы ЛБИ и психологов, подобный контент сильно отражается на детской психике, и дети от этой негативной информации находятся в состоянии постоянной подавленности. В последующем они просто не могут воспринимать информацию другого рода, они не готовы к позитивному контенту – это как наркотическая зависимость, им нужен постоянный негатив, констатирует Мизулина.
«Еще один интересный факт состоит в том, что этот негатив настолько подавляет психику, что отключается критическое мышление. Под давлением такого рода информации люди, особенно дети, начинают очень активно покупать ненужные товары. Поэтому, безусловно, социальные сети, мессенджеры, как площадки, где это все распространяется, должны утратить имеющийся у них иммунитет, должны отвечать за тот контент, который распространен на их ресурсе, потому что они, по факту, становятся неким издателем, если проводить аналогию со СМИ», — говорит руководитель ЛБИ.
Методика борьбы
Эксперт уверена, что цифровым платформам ничего не стоит включиться в борьбу с деструктивным контентом, ведь они и так собирают очень много информации о пользователе, о том человеке, который размещает информацию: где он публикует контент, с кем он общается, в каких сообществах состоит, данные о его входах на страницу, какие номера телефонов использует, какие устройства.
«То есть это достаточно подробные геолокационные сведения, и вообще очень много своих персональных данных человек оставляет, пользуясь этими платформами. Соответственно, конечно, им не составляет особого труда выявить распространителей информации, и либо передавать эту информацию в правоохранительные органы, если речь идет о каких-то страшных вещах, либо блокировать такого пользователя. Но с тем контентом, о котором мы говорим, этого не происходит. И причина этого ясна: такие видео собирают очень много просмотров, к ним сразу же приделана реклама и разного рода интеграция, поэтому они, конечно, зарабатывают на этом деньги», — говорит она.
Александр Малькевич также уверен в необходимости заставить западные социальные сети работать в российском правовом поле, причем для этого необходим некий единый документ, где было бы расписано все про интернет, включая обязанность всех площадок, платформ, ИТ-корпораций, работающих в России, иметь здесь свое официальное представительство, филиал, российское юридическое лицо.
«На мой взгляд, нам нужно принять собственный цифровой кодекс Российской Федерации – некий свод законов и норм, связанных с интернетом. Иначе у нас различная ответственность, права, обязанности по отношению к пользователям, социальным сетям, новым медиа разбросаны чуть ли не по десятку разных законов: за фейки наказывают по одному, за оскорбление символов госвласти в интернете — по другому, в законе о СМИ вообще нет ничего про новые медиа», — говорит эксперт.
Дальше так продолжаться не может, уверен Малькевич. По его словам, социальные сети должны отвечать за то, что они публикуют, а не прикидываться белыми овечками: «У нас свобода, каждый может выражать свое мнение», потому что на Западе это давно уже не так.
«Получается вообще очень странный перекос: они там у себя вычищают все с явными признаками цензуры, зато у нас здесь проходной двор, гадость, и наша молодежь растет с какими-то серьезными психотравмами. Так быть не должно – должны быть более-менее одинаковые правила для всех, эти правила должны установить социальные сети, но правила должны быть прозрачными, включая совершенно прозрачный отчет о вычищении выявленного неправомерного, экстремистского, негативного контента. А государство должно помочь расставить для социальных сетей подобные рамки, какие-то базовые «красные флажки», — уверен эксперт.
По мнению члена Общественной палаты РФ, если бы пользователи, особенно молодые, не знали бы, что шок-контент — это модно, хайпово и может собрать какой-то трафик, может быть, многие и не пошли бы на всю эту жестокость. «У них не было бы примера, не было бы образцов, им негде было бы смотреть на все это, употребить этот контент. Тогда не было бы такого искушения и, соответственно, они бы не пошли по этой кривой дорожке», — резюмирует Малькевич.
