Газета.Ru в Telegram
Новые комментарии +

Одной левой: звезд пристроили в порно

Нейросети «научили» создавать фейковое порно со знаменитостями

С помощью нейросетей программист-аноним научился создавать фальшивые порноролики с участием знаменитостей — при этом они выглядят так правдоподобно, что не каждый сможет заметить подмену лица. Эксперт в области искусственного интеллекта выступил с призывом урегулировать эту проблемы, так как подобные видео могут быть использованы для шантажа или харрасмента.

Функционал нейросетей становятся все более совершенным, открывая для широкой публики массу возможностей для их применения. На американском форуме Reddit появился порноролик, в котором главную роль играет звезда фильма «Чудо-женщина» актриса Галь Гадот.

Видео выглядит настолько натурально, что если не искать подвоха, то можно поверить, что это действительно Гадот. Вот только ролик был создан искусственным путем с помощью алгоритма машинного обучения и открытого исходного кода, которыми может воспользоваться любой программист с базовыми знаниями в этой области.

Знаменитости в зоне риска

Если присмотреться повнимательнее, то можно заметить несовершенства — лицо Галь Гадот, «приклеенное» к телу порноактрисы, не всегда успевает менять мимику, но в целом выглядит вполне реалистично. Но больше всего в этой истории пугает то, что видео было создано не именитой голливудской студией спецэффектов, а обычным пользователем форума, скрывающимся под никнеймом Deepfakes.

На текущий момент Deepfakes опубликовал на Reddit порноролики «с участием» актрис Скарлетт Йоханссон, Мэйси Уильямс и Обри Плазой, а также певицей Тейлор Свифт, созданные с применением технологии машинного обучения и замены лиц. Отметим, что пока никто из пострадавших девушек обращался в суд.

Порно с участием знаменитостей не является каким-то инновационным жанром и имеет свою преданную аудиторию, но, судя по комментариям на Reddit, видео, созданное Deepfakes, отличает особая плавность движений лица и удивительная правдоподобность.

Motherboard связалась с автором этих роликов, который отказался раскрыть свою личность, но поделился некоторыми секретами создания.

Deepfakes сообщил, что воспользовался библиотеками TensorFlow и Keras, находящимися в открытом доступе, а достоверный эффект анимации лиц был достигнут благодаря фотографиям в поиске Google, стоковым снимкам и видео YouTube. Алгоритм собирал весь графический контент воедино и компилировал лицо той или иной знаменитости.

Чем больше фотографий и скриншотов находится в открытом доступе, тем лучше качество конечного эффекта.

Deepfakes добавил, что не является профи — он обычный программист, который интересуется машинным обучением.

«Просто я нашел умный способ делать замену лиц. Имея в арсенале сотню изображений лица человека, я могу легко сгенерировать миллион «деформированных» картинок, чтобы натренировать нейросеть. А если я дам сети снимок лица кого-нибудь другого, она посчитает, что это очередное деформированное изображение и постарается сделать из него копию лица исходного человека», — пояснил создатель роликов.

В комментариях на форуме он также рассказал, что использует алгоритм, похожий на те, что используют сотрудники компании NVIDIA, занимающейся разработкой процессоров и видеокарт.

Разница незаметна

На вопрос, думал ли Deepfakes о возможных этических последствиях применения такого алгоритма, автор порнороликов ответил уклончиво.

«Каждую технологию можно использовать во вред, и с этим ничего нельзя поделать. Главное в этом алгоритме — простота его использования. Не вижу ничего плохого в том, что с его помощью еще больше людей заинтересуются машинным обучением», — заявил программист.

В его словах есть рациональное зерно, но ведь Deepfakes как раз и стал тем, кто эксплуатирует технологии с заведомо плохими намерениями — лицо Галь Гадот было добавлено в видео без ее согласия, а на ее месте может оказаться любой человек, кто хоть раз «заливал» свои фотографии в интернет.

Согласно данным Google, в период с 2015 по 2016 год в сервис Google Photos было загружено 24 млрд селфи.

Эксперт в области ИИ и автор книги «Искусственный интеллект в компьютерных играх» Алекс Шампандар рассказал, что с помощью продвинутой видеокарты эффекта Deepfakes можно добиться всего за несколько часов.

С этической точки зрения последствия этой технологии могут быть катастрофичными, считает Шампандар. По его мнению, через несколько месяцев эта технология может настолько усовершенствоваться, что человеческий глаз не заметит разницы между оригиналом и подделкой.

«Конечно, замена лица — это не новость, но раньше для нее требовались большое количество ресурсов и профессионалы в области спецэффектов, а теперь на это способен любой программист-одиночка с мощным компьютером», — отметил эксперт.

Кроме того, добавление знаменитостей в порно ради большого числа подписчиков — это лишь одна из областей применения такой технологии. Такие сфабрикованные ролики, в которых человек предстает в невыгодном свете, можно использовать для шантажа или харрасмента. Кроме того, злоумышленники будут способны искусственным способом «добавить» человека на видео с камер наблюдения и т.д.

Что думаешь?
Загрузка