Пенсионный советник

Подпишитесь на оповещения от Газета.Ru

Моральное превосходство роботов

22.05.2014, 09:17

Виктория Волошина о том, что отличить добро от зла не так уж сложно даже во время войны

Увидела новость: исследовательское подразделение армии США в течение ближайших пяти лет выдаст грантов на $7,5 млн ученым из разных университетов, которые помогут «обучить» боевых роботов нормам морали. Чтобы те были не тупыми исполнителями типа Терминатора, а все-таки немного соображали, что делают.

Например, как пишет DailyTechInfo, проблемами робототехнической морали и этики уже давно занимаются исследователи из университета Тафтса. Ученые пытаются создать алгоритм, соблюдение которого позволит роботам подражать поведению «высокоморального человека».

Ну, насчет «высокоморального» ученые явно погорячились, им может быть только человек, умеющий сострадать, а это качество в свод инструкций для компьютера не заложишь. Но сформулировать базовые принципы «добра» и «зла» задача на первый взгляд вполне реальная.

Допустим, приводит пример издание, роботу-санитару поручено доставить раненого бойца к ближайшему медпункту. Но в момент транспортировки раненого на пути робота встречается еще один человек, находящийся в критической ситуации. «Моральный компас» позволит роботу прервать выполнение текущего основного задания, оценить ситуацию и принять решение о немедленном оказании помощи найденному человеку или о продолжении выполнения первоначальной задачи.

Такой выбор, собственно, часто приходится делать врачам приемных отделений больших больниц, когда они должны отделить тяжелых пациентов от тех, кто еще может потерпеть. И робот, как ни парадоксально, оказывается здесь «моральнее» человека: его нельзя подкупить, напугать связями, разжалобить, он не отличит бомжа от випа, то есть не сможет нарушить клятву Гиппократа, а человек зачастую слаб.

В этом и проблема. Чтобы вложить моральный алгоритм в машину, его должны прописать люди. Было бы крайне интересно почитать этот набор самых простых представлений о добре и зле с точки зрения ученых, разрабатывающих его для военных роботов по заказу армии США.

Не менее интересно было бы почитать такой алгоритм, если бы его по заказу российской армии поручили написать нашим ученым: ну, например, разработать моральный облик военного робота — помощника «вежливых людей».

Еще интереснее, если бы такой моральный кодекс для роботов писали руководители «Донецкой народной республики». Или Луганской, не суть важно. Академий наук в этих «республиках» пока нет, так что обойдутся без ученых.

Подозреваю, алгоритмы бы сильно разнились. И в час «икс» очеловеченные донецкие роботы легко бы выиграли бой за любой населенный пункт, в отличие от очеловеченных американских и, хочется верить, очеловеченных российских тоже.

Если прописать в электронных мозгах, что при команде «вперед» надо уничтожать всех встречных без специальных опознавательных знаков, не деля их на солдат и мирных граждан, женщин, детей, стариков, — такие роботы-воины практически непобедимы.

Это я к тому, что, прежде чем учить цивилизации машины, полноценное государство должно справиться с задачей цивилизации человека. Для России и Украины сегодня, к сожалению, актуальнее вопрос не очеловечивания роботов (боюсь, и робототехнику мы скоро объявим «продажной девкой империализма», как в свое время кибернетику), а гуманизации людей, многие из которых буквально за считаные месяцы потеряли базовые представления о добре и зле. В том числе и журналисты, которым на информационной войне все труднее сохранять этические нормы профессии.

Корреспондентов пропагандистского российского издания украинские силовики ставят на колени и вынуждают признаваться в «пособничестве донецким террористам». Это аморально? Нет сомнений. Я полностью солидарна с Госдумой и президентом России, что это «абсолютно недопустимо». Вот только почему руководители страны на самом высшем уровне заступаются за тех журналистов, которые, с точки зрения власти, освещают события правильно, а журналисты из оппозиционных изданий, попавшие в плен к другой стороне, должны выбираться из переделки своими силами и благодаря связям главного редактора?

Или как может человек с «корочкой» некогда приличной газеты сдать в руки повстанцам, не брезгующим брать с заложников выкуп, коллегу, по его мнению, неправильно освещающего события?

Месяцем раньше корреспонденты пропагандистских российских изданий снимали и показывали своим телезрителям в прямом эфире взятых в заложники «донецкими ополченцами» украинских силовиков. Связанных людей, раздетых до трусов, страшно избитых, с заклеенными скотчем глазами. И «журналисты» не возмутились этим, а были скорее рады «горячей картинке», задавая связанным людям вопросы, больше походившие на допрос. А это — морально? Но почему тогда если не Госдума, то хотя бы какой-то из журналистских союзов не возмутился наглядным превращением работников СМИ в бойцов одной из воюющих сторон соседней с нами страны.

Как в этом случае прописывать нравственный алгоритм? Своих пытать нельзя, а чужих — можно? Своих детей нельзя посылать на войну, а чужих — можно? Правильных журналистов — надо спасать, неправильных — не надо? Коллег предавать нельзя, но если очень хочется, то можно?

Как только начинаешь отвечать на эти вопросы в алгоритме морального кодекса робота, сразу понимаешь, что мир на самом деле держится на простых понятиях. Что добро и зло легко отличить, если у тебя существует ограничение классифицировать их однозначно, как для компьютерной программы: единица/ноль, да/нет.

Попробуйте подойти с таким инструментарием к любому «сложному» вопросу, и окажется, что не так уж он и сложен, как нам с умным видом вещают из телевизоров великой страны разнообразные эксперты.

Воровать плохо или хорошо? А убивать? А захватывать территории другой страны? А врать, пусть даже в интересах вставания страны с колен? Ответьте, не используя многозначительного предлога «но».

Есть ли универсальная мораль для всего человечества — неважно, в Москве ты живешь, в Вашингтоне или в Донецке? Для верующих людей это в первую очередь — божьи заповеди, в которых прописано и «не убий», и «не сотвори себе кумира», и «не укради», и «не лжесвидетельствуй». Для неверующих в СССР сочинили «Моральный кодекс строителя коммунизма», который во многом был созвучен с этими самыми заповедями. Все ли мы их соблюдаем? Нет конечно — но стремиться к этому, учить этому — должны. Родители — детей, властители — подданных.

В конце прошлого года на большой пресс-конференции Владимир Путин заявил, что «Моральный кодекс строителя коммунизма — жалкая копия Библии», предложив развивать традиционные ценности как замену коммунистической «квазирелигиозной» идеологии.

Спустя три месяца «вежливые люди» навели порядок в Крыму и, есть подозрения, беспорядок на юго-востоке Украины. В стране появились «национал-предатели» и «космополиты» с двойным-тройным гражданством. Степень агрессии в стране достигла такого накала, что чуть ли не из каждого электрочайника несутся призывы «убить», «расстрелять», «посадить». Как верх гуманизма — «выслать из страны». Это и есть наши «традиционные ценности» в действии? И где тут место традиционной народной мудрости «не пожелай ближнему своему того, чего не пожелал бы себе?»

Будь люди уверены, что принцип неотвратимости возмездия в этой жизни работает, уверена, кричащих «распни» было бы очень мало, в пределах процента идиотов. Но большинству с самого верха «разрешили» сдвинуть моральную планку в отношении меньшинства. И понеслось.

Терминаторы вышли на тропу войны. В том числе и Терминаторы диванных войск, которые в соцсетях «убивают» каждого, кто с ними не согласен.

Нет, зря обидела героя Шварценнегера. Как известно, в фильме «Терминатор 2: Судный день» в «мозги» этой боевой машине прописали запрет убивать людей. А в финале робот и вовсе научился понимать эмоции, понял, почему люди плачут, спас ребенка и очеловечился в нравственном смысле этого слова.

Внешне он и так был очень похож на нас.