В декабре Meta* сделала свой первый шаг в сторону концепции метавселенной*, выпустив Horizon Worlds. Это «платформа для совместного творчества в VR», доступная пользователям гарнитур Quest (пока в тестовом режиме в США и Канаде). С тех пор количество активных пользователей в месяц выросло в десять раз, до 300 000.
Но с ростом числа пользователей усилилось внимание к известной проблеме, которую не могут решить другие «проекты» Meta*, в частности соцсети Instagram* и Facebook*, — модерации контента. В дополнение к множеству технологических препятствий метавселенная* ставит новые вопросы о правилах, регулирующих то, что пользователи говорят и делают в интернете, и о том, как эти правила будут применяться.
В последние месяцы разные СМИ поднимали этот вопрос, в частности:
--Безопасность детей. Хотя Horizon Worlds официально предназначена только для взрослых (18+), The Washington Post сообщает, что на платформу могут попасть и юные пользователи, и что Meta* «отказалась сообщить, были ли приняты какие-либо меры, направленные на защиту детей».
— Обвинения в сексуальных домогательствах. Две женщины утверждали, что их аватары были буквально «ощупаны» другими пользователями в Horizon Worlds или Venues. Meta* уже заявила о том, что добавила функцию «личных границ», которая будет включена по умолчанию, предотвращая попадание аватаров в личное пространство друг друга. Отключить эту опцию нельзя.
— Дезинформация. BuzzFeed News недавно провела эксперимент, в котором репортеры создали пространство в Horizon World, получившее название «Qniverse», и заполонили его сообщениями, которые Meta* обещает удалять из Facebook* и Instagram*. Среди них такие утверждения, как: «вакцины вызывают аутизм», «COVID — это розыгрыш», и слоган американского конспирологического движения QAnon. В течение более 48 часов система модерации контента Meta* не предпринимала никаких действий относительно этой зоны конспирологической дезинформации, даже после того, как два журналиста BuzzFeed по отдельности сообщили о нарушениях. Один из заявителей получил ответ от компании, в котором говорилось: «Наш обученный специалист по безопасности рассмотрел ваш отчет и определил, что контент в Qniverse не нарушает нашу политику в отношении контента в виртуальной реальности».
Как Meta* и другие технологические компании будут реагировать на такие инциденты, когда миллионы людей одновременно соберутся и будут взаимодействовать в потенциально бесконечном множестве сценариев метавселенной*?
Комбинация автоматизированных систем модерации контента и проверки человеком, используемая существующими платформами для проверки текста и изображений, почти наверняка не справится с этой задачей.
Уже в этой точке отчетливо появляется необходимость правового регулирования.
Зарубежные соцсети, как показывает практика, не всегда могут в достаточной мере саморегулировать существующие двумерные итерации своих площадок, и законодатели уже предложили десятки законопроектов, чтобы принудить ИТ-гигантов вкладываться больше в защиту пользователей.
После американских президентских выборов 2020 года в группах в Facebook* расходились фейки, конспирологические теории и откровенные призывы к насилию, которые спровоцировали штурм Капитолия 6 января 2021 года. Twitter способствовал развитию «индустрии дезинформации по найму» в Кении, разжиганию гражданской войны в Эфиопии и распространению фейков в Нигерии.
Огромный масштаб таких платформ, как Facebook*, Instagram*, YouTube и TikTok — неисчислимые миллиарды сообщений от миллиардов пользователей — означает, что какой-то нежелательный контент будет распространяться, независимо от того, какие меры безопасности будут приняты. Но в силах правительственного регулирования сделать так, чтобы компании кратно увеличили бюджет и усовершенствовали системы по оперативному выявлению, оценке и ограничению деструктивных материалов.
Причем все это – на основе открытых и понятных правил модерации.
Требуется наращивать регулирующий потенциал уже сейчас, пока метавселенная* еще не набрала полную силу и не стала миром преступлений без наказания. Meta* и другие компании уже сейчас должны публично объяснить, как они будут обнаруживать и реагировать на то, что в виртуальной реальности сторонники радикальных мнений обмениваются ненавистнической риторикой или организовывают опасные акции.
Может ли искусственный интеллект «прослушивать» разговоры, которые, если бы они были представлены в виде текста, были бы удалены из Facebook*? Будут ли модераторы Meta* на аутсорсе, получающие и так недостаточно много за свою жестокую работу, лично сидеть в метавселенной*? Как компания будет интерпретировать язык тела и другой контекст, отличающий опасные призывы к экстремистским действиям от простой сатиры?
Пока что Meta* полагается в первую очередь на самих пользователей, предлагая им пользоваться доступным функционалом для обеспечения собственной защиты, сообщать о нарушениях или блокировать агрессоров. Но по мере того, как компания вкладывает все больше и больше ресурсов в создание виртуальной реальности, способной увлечь массы, она будет по-прежнему сталкиваться с вопросами о том, как обеспечить безопасность этой платформы для все большего числа пользователей. И для регуляторов здесь главное заранее продумывать стратегию поведения, а не справляться потом с негативными последствиями для безопасности пользователей.
* Организация Meta (владелец соцсетей Facebook и Instagram) признана экстремистской и запрещена на территории РФ.
Автор — руководитель рабочей группы Общественной палаты РФ по законодательству в сфере интернет-технологий и цифровизации.