Обучение сильного искусственного интеллекта (ИИ) похоже на дрессировку собаки, заявил профессор Индийского статистического института Свагатам Дас в рамках доклада на тему «Навигация по ландшафту генеративного ИИ: большие языковые модели, справедливость и их преобразующая роль в научных исследованиях» на международной конференции Сбера AI Journey.
«Сильный искусственный интеллект можно и нужно донастраивать. Это напоминает дрессировку собаки. Сначала вы учите животное сидеть, стоять, подавать лапу. А когда оно научится базовым навыкам, его можно учить специальным — сопровождать глухих людей или служить в полиции. Так учат и языковые модели, которые потом умеют заниматься анализом, классификацией, различать эмоции», — сказал он.
Также профессор отметил, что «первые нейросети были словно дети, делающие первые шаги».
«Первые нейросети были словно дети, которые пробовали свои первые шаги в рисовании. Потом они тренировались, различали плохие и хорошие рисунки и постепенно учились создавать настоящие шедевры. Сейчас мы наблюдаем эволюцию искусственного интеллекта. Как студент идет в библиотеку, читает много книг и возвращается с нужным ответом, так и большие модели «читают» большой массив информации из интернета и выдают нам соответствующий контент», — отметил Дас.
Как отметил спикер, нейросети имеют гендерное искажение.
«У генеративных сетей воспитатель в детсаду всегда «она», а рабочий — «он». Когда генеративная модель пишет, что мужчина путешествует в одиночку, — это радость. А если в одиночку путешествует женщина, у нейросети другая эмоция — страх. Сейчас надо убирать эти когнитивные искажения», — заявил профессор.
Кроме того, Дас заявил о необходимости решение этнических проблем у ИИ.
«В Индии люди говорят на 23 языках. Если в одном языке какая-то фраза звучит нормально, в другом она оскорбительна. Нейросети пока подобные культурные идиомы не различают. Поэтому следующий шаг в развитии больших генеративных моделей — их дальнейшее обучение. Это основная задача для современного научного сообщества», — отметил профессор.
Конференция AI Journey проходит с 22 по 24 ноября и посвящена передовым разработкам в области искусственного интеллекта, их роли в новых научных открытиях, развитии бизнеса и общества, а также популяризации среди молодежи. На ней выступят более 200 авторитетных экспертов из России, Индии, Китая, Бразилии, Малайзии, Индонезии, ОАЭ, ЮАР и других государств.