Google Brain сочинил странный текст после прочтения любовных романов

Искусственный интеллект Google Brain для понимания человеческого языка «прочитал» 11 тыс. книг, в числе которых почти три тысячи любовных и полторы тысячи фантастических романов. Издание Quartz опубликовало тексты, сочиненные нейросетью после прочтения произведений.

Инженеры заставили Google Brain придумать текст, который бы соединял первое и последнее предложения. Так, в рамках эксперимента нейросеть должна была написать 13 предложений, которые бы обеспечили логичный переход от фразы «Я в порядке» до фразы «Тебе нужно поговорить со мной сейчас».

Перед разработчиками стояла задача не просто научить систему правильно говорить те или иные фразы, а заставить ее понимать, как действительно разговаривают люди. Система должна была генерировать новые и разнообразные предложения, однако некоторые из них получились странными и напряженными.

Одним из примеров стал такой диалог, созданный Google Brain:
Я в порядке.
Ты прав.
Все в порядке.
Ты прав.
Окей, хорошо.
Окей, хорошо.
Да, прямо сюда.
Нет, не прямо сейчас.
Нет, не прямо сейчас.
Поговори со мной сейчас.
Пожалуйста, поговори со мной сейчас.
Я поговорю с тобой прямо сейчас.
Ты должен поговорить со мной прямо сейчас.
Тебе нужно поговорить со мной прямо сейчас.

Ранее администрация президента США предложила разработать этическую основу для создания систем искусственного интеллекта.