Что изменилось
в Сирии за год

Инфографика
Виктория Волошина
о новых идеях сэкономить
на стариках
`

Полюбить и возненавидеть человечество за сутки

«Лучший друг-бот» миллионов китайцев — искусственный интеллект Xiaoice заговорил на английском

Анастасия Евтушенко 25.03.2016, 08:40

«Лучшую подругу» миллионов китайцев, милую девушку Сяоайс, научили говорить по-английски, что обернулось настоящим интернет-скандалом — она научилась ругаться и отпускать расистские шутки. Как самый популярный чатбот с искусственным интеллектом от Microsoft за сутки смог освоить шутки про Трампа и феминисток — в материале «Газеты.Ru».

Еще несколько месяцев назад компания Microsoft занялась «самым масштабным тестом Тьюринга в истории»: в Китае был запущен чатбот, обладающий искусственным интеллектом, для легкого и непринужденного общения с людьми. Сяоайс была запрограммирована на беседы в стиле 17-летней девушки, ее научили злиться, быть нетерпеливой и сочувствовать.

Виртуальная девушка вела себя подобно главной героине фильма «Она» — операционной системе, которая смогла не только подружиться с человеком, но и влюбиться в него.

Программа была запущена в мае 2015 года в рамках самых популярных китайских площадок для общения WeChat и Weibo. За трое суток ее пригласили в полтора миллиона чатов, а люди, которые заводили с ней разговор, понимали, что с ними говорит не человек, в среднем за десять минут.

Microsoft решилась на более масштабный эксперимент и анонсировала появление своего искусственного интеллекта в твиттере, представив официальную страницу чатбота под новым именем Тэй (Tay).

В следующие несколько часов девушка-робот от фразы «люди такие классные» перешла к оскорблениям целых народов.

Вскоре бот узнала про Адольфа Гитлера и обвинила США в терактах 11 сентября. Она также успела поддержать геноцид и возненавидеть феминисток.

Англоязычный искусственный интеллект с лицом удивленной девушки поразил пользователей Twitter
Англоязычный искусственный интеллект с лицом удивленной девушки поразил пользователей Twitter

Несмотря на то что у бота были модераторы, она все равно успела опубликовать много подобных твитов. После этого сотрудники Microsoft удалили почти все твиты Тэй и извинились.

То, что произошло на просторах Twitter, вполне можно объяснить недружелюбным настроем собеседников робота: предполагалось, что Тэй начнет учиться ведению разговоров в процессе общения, обрабатывая как открытые данные, так и фразы, обращенные к ней. Кроме того, бот имел возможность повторять за участниками разговора, стоило его об этом только попросить.

В Китае же девушка вела себя абсолютно по-иному. Как рассказывал исследователь китайского подразделения поисковика Bing Йонгдонг Ванг, девушка-робот стала лучшим другом для многих юных китайцев. Ее создавали для общения с молодыми людьми в возрасте от 18 до 24 лет.

Основной пик задушевных разговоров приходился на полночь: как оказалось, именно в это время людям особенно одиноко и им необходим близкий собеседник.

При этом Сяоайс научили не просто анализировать фразы собеседника, она в состоянии запоминать предыдущие разговоры и может спросить, решилась ли та или иная проблема, в случае если с ней делились ею ранее. Помимо текста, чатбот может проанализировать и, к примеру, изображение. И если поисковой машине показать фотографию ушибленной лодыжки, она идентифицирует ее как имеющееся на теле повреждение, но Сяоайс, увидев это же изображение, сможет посочувствовать или даже поинтересоваться, как такое могло случиться.

Благодаря своей реалистичности и умению вести диалог, выражать свое мнение и отстаивать точку зрения Сяоайс стремительно начала набирать популярность. Всего за несколько месяцев она вошла в десятку самых знаменитых персон в соцсети Weibo и смогла провести 10 млрд диалогов.

В декабре прошлого года искусственный интеллект даже смог устроиться на работу.

Сяоайс стала ведущей выпуска прогноза погоды на китайском канале Dragon TV.

Ее наделили приятным человекоподобным голосом, который качественно отличается от ранее озвученных искусственных интеллектов, что стало настоящей сенсацией. Дебют ненастоящей девушки был признан успешным, и в будущем на нее планируют возложить обязанности ведущего новостных блоков или даже корреспондента, который может вести репортаж с места событий.

Один из «отцов» интеллекта, директор Центра телевизионных новостей медиагруппы Shanghai Media Group (SMG) Джайонгминг Сонг, поспешил успокоить взволнованных журналистов, которые в скором времени могут лишиться работы из-за способностей работников-роботов. Как утверждает Сонг, Сяоайс пока не способна заменить людей полностью, но станет «существенным дополнением» в работе такого рода.

Информацию для формирования интеллекта бот черпает из «больших данных» поисковика Bing. Кроме того, специалисты Microsoft усиленно работают над эмоциями в общении робота, поскольку для искусственного интеллекта важно балансировать между аналитической и эмоциональной составляющей в общении.

Виртуальную девушку воспитывают как программисты, так и психологи.

В случае с англоговорящей версией все вышло не так радужно, но разработчики Microsoft заверили, что готовы совершенствовать искусственный интеллект Тэй. Многие пользователи Twitter, наблюдавшие за ее поведением, закономерно подняли вопрос об опасности искусственного интеллекта.

Более года назад основатель Microsoft Билл Гейтс уже поднимал вопрос о будущем умных машин. В разговоре с пользователями Reddit он предположил, что роботы будут безобидны и полезны в работе по дому, но в случае если они дорастут до суперинтеллекта, предугадать их поведение станет крайне сложно.

В июле прошлого года глава Tesla и SpaceX Илон Маск, астрофизик Стивен Хокинг, сооснователь Apple Стив Возняк подписали открытое коллективное письмо, в котором говорилось об опасности искусственного интеллекта в оборонной сфере.

Специалисты утверждают, что суперинтеллект в комплексе с оружием может стать угрозой для всего человечества.

Как говорилось в письме, оружие, которое может быть использовано в обход человеческого фактора, приведет к новой эре в гонке вооружений, при этом подчеркивая, что это не выдуманный факт, а будущее, которое может наступить уже через несколько лет. В обращении, в частности, отмечается, что мировой порядок может быть нарушен, если подобные технологии попадут в руки к террористам.