Цивилизация
Исследователи компании Sensity обнаружили в мессенджере Telegram «дипфейк-экосистему», состоящую из ботов, генерирующих «голые» фотографии женщин, сообщает The Verge. Пользователи этих ботов заливают в систему снимки своих знакомых девушек, а искусственный интеллект удаляет с них всю одежду, создавая таким образом фейковые изображения.
По данным Sensity на июль 2020 года, при помощи порнографического бота были обработаны свыше 100 тыс. фотографий женщин.
Сообщается, что среди них попадаются фото несовершеннолетних. При этом почти 70% пользователей, загружающих снимки в эту систему, проживают в России и соседних странах.
Бот «раздевает» людей бесплатно, выдавая результат с вотермаркой. Если же человек захочет ее убрать, то должен заплатить за эту услугу. Сообщается, что «стартовый тариф» включает в себя 100 фейковых обнаженных фото, которые можно получить в течение недели. Его стоимость составляет 100 рублей.
Программное обеспечение, которое лежит в основе этих ботов, называется DeepNude. О нем впервые стало известно летом прошлого года. Сообщается, что его создатель вскоре удалил сайт со своим творением, заявив о том, что «вероятность злоупотребления DeepNude слишком высока». Тем не менее, с тех пор была произведена обратная разработка этой технологии, и теперь вариации DeepNude можно найти по всему интернету.
По словам генерального директора Sensity Джорджио Патрини, именно общедоступность дипфейков стала причиной массового возникновения «раздевающих» ботов. При этом обычному пользователю не нужно быть программистом, чтобы использовать возможности, находящиеся в открытых репозиториях — бот все делает автоматически.
Портал «Би-би-си» связался с администратором одного из таких ботов, который заявил о том, что его не волнует этическая проблема использования этой технологии.
«Это просто развлечение без какого-либо насилия. Этим даже нельзя никого шантажировать, так как качество [обработки] оставляет желать лучшего», — сообщил администратор, пожелавший остаться анонимным.
Он добавил, что специальная команда поддержки отсматривает фотографии, которые загружаются в систему, и блокирует тех пользователей, которые используют снимки несовершеннолетних.
«Би-би-си» также сообщает о том, что порнографические боты распространены не только в Telegram, но и в социальной сети «ВКонтакте». Как сообщили «Газете.Ru» в пресс-службе платформы, компания осведомлена об этой проблеме и ведет с ней активную борьбу.
«ВКонтакте» выступает против такого контента и публикации ссылок на подобные ресурсы. Наша команда блокирует сообщества, которые распространяют таких ботов. Мы проведем дополнительную проверку и заблокируем сообщества, которые нарушают правила. Подобные чат-боты и сообщества никогда не продвигались через рекламные инструменты «ВКонтакте», — заявил представитель пресс-службы.
Термин «дипфейки», которым в настоящее время обозначают очень реалистичные, но при этом фейковые видеоролики или фотографии, появился два года назад благодаря пользователю с никнеймом DeepFakes.
Он решил использовать созданную в 2014 году технологию на базе генеративно-состязательных нейросетей (Generative adversarial network, или GAN), которая позволяет создавать образцы нового контента на базе больших массивов уже существующих файлов. Так, например, собрав фотографии той или иной знаменитости, искусственный интеллект может произвести на свет реалистичную модель лица звезды, тщательно сохранив все черты и даже мимику.
Согласно исследованию от декабря 2019 года, 96% дипфейков в интернете — это порнографические ролики.
