— C чего зародился ваш интерес к нейросетям и проблеме искусственного интеллекта?
— Темой искусственного интеллекта меня, еще подростка, заразил Андрей Николаевич Колмогоров в 1956 году, так что, поступая в МФТИ, я точно знал, чем именно буду заниматься. На физтехе меня определили в группу, которая занималась компьютерами. Помню, как академик Сергей Алексеевич Лебедев, директор Института точной механики и вычислительной техники, показывал нам БЭСМ, занимавшую весь первый этаж института. Сейчас по мощности она бы уступила калькулятору, но самое замечательное в ней было – это ячейка памяти на один бит из четырех ламп 6Н8С.
— Вы работали на БЭСМ-1?
— Нет, работать мне пришлось уже на другой машине примерно того же поколения – «Стреле ВЦ». Помню, как брал такси и в три часа ночи приезжал запускать на ней свою программу: на все про все мне отводилось 10 минут. Программировали, естественно, в машинных кодах, и надо сказать, что один из главных жизненных принципов, который я назвал «феноменом скрытого фактора», я сформулировал именно тогда. Для исправления программы перфокарты, как правило, не переделывали, а заклеивали дырочки кусками картона. И вот, бывало, приходишь — и видишь следующую картину: машина не работает, солнце взошло не с той стороны, мир встал с ног на голову, и вообще все пошло наперекосяк. В общем, мистика. Хватаешь колоду перфокарт, смотришь — и обнаруживаешь, что один из вклеенных битов отвалился. Вклеиваешь обратно – и мир встает на место, все работает идеально. Несколько обобщая, скажу, что в основе любой мистики лежит феномен скрытого фактора.
Но, поскольку люди не программисты и многие склонны думать, что мир устроен непонятно, скрытый фактор они не видят и предпочитают загадочные объяснения.
— К мистике, если развивать вашу аналогию, побуждают, скорей, скрытые алгоритмы исправления ошибок в наших суждениях о природе. Мистики в таком случае обычно говорят так: «Но кто-то же написал программу по исправлению других программ…» В эпоху, когда программирование зарождалось, таких автокорректирующих технологий еще не было.
— В нашем случае это неважно. Сейчас, когда программируют на языках высокого уровня, создавая сотни тысяч строк кода, и делают ошибки, система автоматической коррекции не срабатывает все равно. Ведь это такая же программа, как и все остальные. В конечном итоге свои ошибки все равно приходится исправлять нам самим, а любая мистика находит реальное объяснение.
— Вы придерживаетесь точки зрения, что вселенная вычислима.
— Эти слова для меня бессмысленны. Я поддерживаю точку зрения, что никаких «мистических» явлений в мире нет. Похоже, что нет никаких неизвестных физических взаимодействий, а если таковые и существуют, то пока в недоступном для измерения масштабе. Все-таки осознанная научная попытка понять мир насчитывает не так уж много времени – начиная с Платона и Аристотеля. При этом 99,9% достоверных научных знаний накоплены за последние 50–100 лет.
— Создание искусственного интеллекта логически вытекает из этой эпопеи?
— Видимо, интеллект — явление общественное, и как некий одиночный феномен рассматривать его неправильно. Именно как общественный феномен он возник, по-видимому, между 70 и 50 тысячами лет назад с возникновением языка. Это был не биологический скачок, а чисто информационный.
— Правильно ли рассматривать информационную эволюцию в отрыве от биологической?
— Конечно. С открытием генетических текстов биологическая эволюция стала вычислимой эволюцией. Мы можем вычислить, как биологически изменялись организмы. Но понять, изучая гены, какие-то культурные феномены мы не можем.
Другое дело, что не все до конца понятно в этих текстах, и феномен скрытого фактора по-прежнему здесь силен. Но, простите, и с момента открытия ДНК прошло не так уж много времени.
— Однако есть очень сильные указания, что феномены, которые воспринимались ранее как эксклюзивно интеллектуальные и культурные, имеют наследственную природу — например, альтруизм, предвзятое отношение к представителям другой культуры, свобода нравов и явно связанная с ней эмансипация общественной и культурной жизни.
— В пользу разделения (биологической эволюции от социальной) говорит тот факт, что человеческий генотип и генотип тех же высших приматов и других животных большей частью совпадают. И лишь небольшие генетические изменения у древних гоминид в узком функциональном окне, отвечающие за расширение сигнального взаимодействия с помощью звуков, привели к возникновению языка и началу интеллектуальной эволюции. То есть незначительные изменения генов, с одной стороны, – и взрывообразный информационный рост, с другой.
— А что принципиально нового дал этот интеллектуальный рост и развитие технологий? Взять тот же интернет, который всего лишь интенсифицировал информационный обмен, но качественно ничего нового не привнес: нынешние соцсети или облачные вычисления – всего лишь модифицированный вариант базарной площади и обмена ресурсами, при этом сложные «сетевые протоколы» есть и у социальных насекомых?
— Мне симпатична идея, что технологии и порождаемые ими устройства, в том числе интернет и гаджеты, являются продолжениями нас самих, в каком-то смысле и нашего собственного тела. Просто сигнальная система принимает новые формы.
— Не с этим ли размыванием границ между человеческим интеллектом и нечеловеческим связана происходящая сейчас ревизия самого понятия «искусственный интеллект»?
— Да, но принцип работы вычислительной машины — это и есть язык ее программирования, т. е. алгоритмическая последовательность элементарных действий по записи и стиранию значений на ленте машины Тьюринга. То есть, разбирая сверху вниз язык какого угодно уровня до уровня простейших кодов, можно понять и принцип действия машины.
— Известна позиция Роджера Пенроуза, критикующего алгоритмическое разложение феномена мышления и ставящего под сомнение реальность его имитации с помощью вычислительных машин. С этим был связан мой предыдущий вопрос о вычислимости.
— Похоже, вы, как и многие, угодили здесь в одну и ту же математическую западню. Когда что-то вычислимо, это не означает автоматически, что это можно сделать. А когда невычислимо, то сделать якобы нельзя. Все это – превратное понимание в широком смысле узких математических терминов. Вообще все рассуждения по поводу теоремы Геделя о неполноте и невозможности из-за этого понять мозг, на мой взгляд, бредовы. Никакого отношения теорема Геделя к тому, как работает мозг, не имеет вообще. Если стоять на простой и наивной точке зрения, что мозг устроен определенным образом и благодаря этому устройству мы наделены определенными способностями, то понять, как именно работает мышление, в конечном итоге можно.
И ничто не запрещает нам это сделать! Другое дело, что скрытых факторов в случае с устройством мозга продолжает оставаться очень много.
— Какие из них уже перестали быть скрытыми? Какие ключевые открытия, приближающие нас к пониманию механизма работы мозга, уже сделаны?
Это я не из самоуничижения говорю, а к тому, что речь идет не о каких-то сложнейших и фантастических, а достаточно простых и познаваемых вещах.
— Помимо фазового перехода состояний нейросети, какие еще фундаментальные коды вы можете назвать?
— С ходу – стохастический резонанс, когда для работы системы требуется оптимальное добавление шума. Перцептрон, который вы упомянули, и обратное распространение ошибки, которое, пока неизвестно, реализуется ли в живых нейросетях, но его тоже можно считать фундаментальным кодом интеллекта. Перечислять можно и дальше, тут главное не это, а принципиальная реализуемость проекта по расшифровке кодов мозга. По большому счету, никто не брался за реализацию этого проекта в составе большого коллектива специалистов. Никто! А я знаю практически все лаборатории, которые работают на этом поле. Сейчас вот пробуем собрать, наконец, такой коллектив из 21 профессионала в рамках проекта «Россия-2045» — с четко поставленными задачами, финансированием и планом работы на 7 лет. Если есть такая возможность, надо ее использовать.
— Расскажите о вашем участии в этом проекте.
— Чем хороша инициатива-2045? Понять, что такое мышление и разум, – не просто одна из многих целей, а стратегически, наверное, самая важная задача человечества вообще. Ученым это не приходится втолковывать, особенно тем, чьи исследовательские интересы лежат в смежных областях. Но начинаешь объяснять это населению — сразу вопрос «а зачем?» и «какую ты получишь выгоду?».
— Коллективный глас налогоплательщика, спонсирующего фундаментальную науку.
— Я долго прожил в США, чтобы понять, что налогоплательщик – один из многих мифов, которым американцы постоянно отравляют себе жизнь сами и уже отравили остальным. Налогоплательщик не критерий. Претензия «я плачу налоги!» не претензия: я тоже плачу налоги. Но связывать решение фундаментальных, прорывных для человечества задач с налогами – это глупо.
— Бюджет – Коробочка, скрещенная с Чичиковым, и раскошеливаться на подобные предприятия не будет, это очевидно. Впрочем и «Россия-2045» позиционирует себя как сугубо общественная инициатива, рассматривая государство как некую вспомогательную опцию. Однако главной целью этого проекта является не разгадка кодов мозга и запуск нечеловеческого разума, а постройка искусственного тела, радикальное продление жизни, в идеале – бессмертие. Причем здесь искусственный интеллект и вы?
— Всякий, как известно, доволен своим умом, но не состоянием. Парадокс в том, что, когда рассказываешь об уме, слушают тебя несравнимо менее внимательно, чем когда переходишь к телу. Вот тело – это уже что-то очень важное, насущное. Тело – это хорошо, это нужно, это уже что-то! Но искусственным телом надо как-то управлять, так что в качестве побочной, но принципиально важной задачи придется в любом случае расшифровать, как работает ЦНС и ее высшие отделы. И я только рад, что такая задача ставится внутри проекта-2045. А ресурсы на ее решение требуются очень скромные, совершенно не сравнимые с тем эффектом, который они могут произвести на человечество.
— Какие подходы к нейросетям на заре формирования этой стратегии повлияли на вас больше всего?
— Есть авторы, которые, вопреки так называемой «функциональной критике» концепции искусственных нейросетей, прозвучавшей со стороны Марвина Минского, и которая, как потом выяснилось, была совершенно умозрительной, много сделали для понимания мышления как целого, например великий Дэвид Марр. Но Минский – математик, а математики склонны к умозрительным конструкциям и догмам, даже когда пытаются описать что-то реальное, например зрение. Минский, критикуя искусственные нейросети, в свое время призывал: не пробуйте имитировать Бога, строя нейросети, просто попробуйте создать конструкцию, выполняющую такую же зрительную функцию.
— Конструкция, однако, до сих пор не создана, а нейросети – плод эволюции миллиарда лет – триумфально вернулись в начале 80-х с открытием архитектуры обратного распространения ошибки.
— Что касается обратного распространения ошибки, то за изобретение этой архитектуры я представлял своего коллегу Александра Ивановича Галушкина на Пионерскую премию Института инженеров электротехники и электроники, хотя и Пол Вербос считает себя первопроходцем в этой области.
— К этим идеям они пришли почти одновременно.
— Да, но, строго говоря, Галушкин все-таки чуть пораньше. Так вот, я спрашивал Галушкина: «Слушай, Саша, а ты это сам придумал-то вообще?» На что Александр Иванович отвечал: «Ты что, у Розенблата все уже написано!» И это так. Только книга Розенблата написана таким жутким языком, что никто толком-то прочесть ее не мог! Но вернусь к Марру. Через 11 лет после смерти Марра его жена Лючия (не без моей подачи — в предисловии она даже цитирует ответное письмо мужа на мое настойчивое предложение издать эти статьи) опубликовала сборник журнальных статей Марра по нейросетям. Хотя специалистам по искусственному интеллекту больше известна другая книга Марра — «Зрение», опубликованная в 1982, через два года после его смерти, и переведенная на русский.
И вот сейчас оказалось, что многие нейросетевые идеи Марра оказались удивительно верны, например в отношении двух структур – мозжечка, которым я сам плотно занимался, и гиппокампа.
общественное движение, созданное в 2011 году и ставящее своей задачей поддержку и развития новых технологий продления жизни с помощью искусственных нейроинтерфейсов и нейропротезов, разработку и создание искусственного человеческого тела («аватара»), технологий по загрузке сознания в память компьютера («аплоудинг мозга»), а также популяризацию идей трансгуманизма. Движение поддерживают ученые и деятели культуры, составившие общественный и экспертные советы «России-2045». В настоящее время движение формирует рабочие группы для профильных исследований в области нейроинформатики и нейрокибернетики, биотехнологий, роботехники и нейропротезирования.
Официальный сайт движения «Россия-2045»: http://www.2045.ru
— Как и в случае с искусственным интеллектом, мне не нравится это слово – «когнитивный». Забудьте про него. Термины все только усложняют. Надо заниматься конкретными задачами, изучая конкретные феномены и механизмы. В этом смысле я, конечно, типичный представитель bottom-up, предпочитающий двигаться снизу вверх, а к чему может привести up-down, мы уже видели на примере Минского. Как продуктивный и многообещающий пример стратегии bottom-up я (особенно тем, кто только начинает знакомиться с этой темой) посоветовал бы книгу Джеффа Хокинса «Об интеллекте», переведенную на русский: в ней много журнализмов и заносов, от которых меня как специалиста слегка передергивает, но стратегию, выбранную Хокинсом, я приветствую.
— Снизят ли глобальные риски, нависшие над нашей цивилизацией, расшифровка кодов мозга и запуск искусственного интеллекта? В случае привязки мышления к небиологическим носителям, например, намного упрощается экспансия в космос...
— Будет экспансия или не будет — уже не нам решать. Скорей всего, конечно, будет: жить на одной планете объективно чересчур рискованно. Но понимание тайны разума не панацея, а один из существенных элементов нашего знания, могущего снизить такие риски. Один ум – хорошо. Но иметь два или даже больше еще никому не помешало, в деле выживания особенно.
