Функционал нейросетей становятся все более совершенным, открывая для широкой публики массу возможностей для их применения. На американском форуме Reddit появился порноролик, в котором главную роль играет звезда фильма «Чудо-женщина» актриса Галь Гадот.
Видео выглядит настолько натурально, что если не искать подвоха, то можно поверить, что это действительно Гадот. Вот только ролик был создан искусственным путем с помощью алгоритма машинного обучения и открытого исходного кода, которыми может воспользоваться любой программист с базовыми знаниями в этой области.
Знаменитости в зоне риска
Если присмотреться повнимательнее, то можно заметить несовершенства — лицо Галь Гадот, «приклеенное» к телу порноактрисы, не всегда успевает менять мимику, но в целом выглядит вполне реалистично. Но больше всего в этой истории пугает то, что видео было создано не именитой голливудской студией спецэффектов, а обычным пользователем форума, скрывающимся под никнеймом Deepfakes.
На текущий момент Deepfakes опубликовал на Reddit порноролики «с участием» актрис Скарлетт Йоханссон, Мэйси Уильямс и Обри Плазой, а также певицей Тейлор Свифт, созданные с применением технологии машинного обучения и замены лиц. Отметим, что пока никто из пострадавших девушек обращался в суд.
Порно с участием знаменитостей не является каким-то инновационным жанром и имеет свою преданную аудиторию, но, судя по комментариям на Reddit, видео, созданное Deepfakes, отличает особая плавность движений лица и удивительная правдоподобность.
Motherboard связалась с автором этих роликов, который отказался раскрыть свою личность, но поделился некоторыми секретами создания.
Deepfakes сообщил, что воспользовался библиотеками TensorFlow и Keras, находящимися в открытом доступе, а достоверный эффект анимации лиц был достигнут благодаря фотографиям в поиске Google, стоковым снимкам и видео YouTube. Алгоритм собирал весь графический контент воедино и компилировал лицо той или иной знаменитости.
Чем больше фотографий и скриншотов находится в открытом доступе, тем лучше качество конечного эффекта.
Deepfakes добавил, что не является профи — он обычный программист, который интересуется машинным обучением.
«Просто я нашел умный способ делать замену лиц. Имея в арсенале сотню изображений лица человека, я могу легко сгенерировать миллион «деформированных» картинок, чтобы натренировать нейросеть. А если я дам сети снимок лица кого-нибудь другого, она посчитает, что это очередное деформированное изображение и постарается сделать из него копию лица исходного человека», — пояснил создатель роликов.
В комментариях на форуме он также рассказал, что использует алгоритм, похожий на те, что используют сотрудники компании NVIDIA, занимающейся разработкой процессоров и видеокарт.
Разница незаметна
На вопрос, думал ли Deepfakes о возможных этических последствиях применения такого алгоритма, автор порнороликов ответил уклончиво.
«Каждую технологию можно использовать во вред, и с этим ничего нельзя поделать. Главное в этом алгоритме — простота его использования. Не вижу ничего плохого в том, что с его помощью еще больше людей заинтересуются машинным обучением», — заявил программист.
В его словах есть рациональное зерно, но ведь Deepfakes как раз и стал тем, кто эксплуатирует технологии с заведомо плохими намерениями — лицо Галь Гадот было добавлено в видео без ее согласия, а на ее месте может оказаться любой человек, кто хоть раз «заливал» свои фотографии в интернет.
Согласно данным Google, в период с 2015 по 2016 год в сервис Google Photos было загружено 24 млрд селфи.
Эксперт в области ИИ и автор книги «Искусственный интеллект в компьютерных играх» Алекс Шампандар рассказал, что с помощью продвинутой видеокарты эффекта Deepfakes можно добиться всего за несколько часов.
С этической точки зрения последствия этой технологии могут быть катастрофичными, считает Шампандар. По его мнению, через несколько месяцев эта технология может настолько усовершенствоваться, что человеческий глаз не заметит разницы между оригиналом и подделкой.
«Конечно, замена лица — это не новость, но раньше для нее требовались большое количество ресурсов и профессионалы в области спецэффектов, а теперь на это способен любой программист-одиночка с мощным компьютером», — отметил эксперт.
Кроме того, добавление знаменитостей в порно ради большого числа подписчиков — это лишь одна из областей применения такой технологии. Такие сфабрикованные ролики, в которых человек предстает в невыгодном свете, можно использовать для шантажа или харрасмента. Кроме того, злоумышленники будут способны искусственным способом «добавить» человека на видео с камер наблюдения и т.д.