Цивилизация
Директор по информационным технологиям министерства обороны США Дана Дизи и директор Объединенного центра искусственного интеллекта генерал-лейтенант (Joint Artificial Intelligence Center, JAIC) Джон Шанахан объявили об официальном принятии пяти принципов этического использования искусственного интеллекта (ИИ).
Это «закладывает основы этического проектирования, разработки, развертывания и использования искусственного интеллекта министерством обороны США», заявила Дизи.
Генерал Шанахан сказал, что решение о принятии этих принципов отделяет Соединенные Штаты и их союзников от противников, которые намерены использовать достижения в сфере ИИ.
«Мои беседы с нашими союзниками и партнерами в Европе показывают, что у нас много общего в отношении принципов, касающихся этического и безопасного использования возможностей ИИ в военных операциях»,
— цитирует слова Шанахана Defense News.
По его мнению,
«это резко контрастирует с Россией и Китаем, где использование технологии искусственного интеллекта в военных целях вызывает серьезную обеспокоенность по поводу прав человека, этики и международных норм».
Пять перечисленных ниже принципов применимы как к боевому, так и небоевому использованию технологий ИИ, сказала Дана Дизи.
Ответственность. Персонал министерства обороны США будет проявлять надлежащий уровень здравомыслия и безопасности, оставаясь ответственным за разработку, развертывание и использование возможностей ИИ.
Беспристрастность. Отдел предпримет преднамеренные шаги, чтобы минимизировать непреднамеренное смещение возможностей ИИ.
Доступность для анализа. Возможности военного ведомства США по ИИ будут разрабатываться и развертываться таким образом, чтобы сотрудники имели надлежащее понимание технологий, процессов разработки и методов работы, применимых к ИИ.
Управляемость. Минобороны США будет проектировать и разрабатывать возможности ИИ для выполнения их намеченных функций, обладая способностью обнаруживать и избегать непреднамеренных последствий, а также способностью отключать или деактивировать развернутые системы, которые демонстрируют непреднамеренное поведение.
Эти принципы следуют из рекомендаций, разработанных Советом по оборонным инновациям США и представленных министру обороны Марку Эсперу в октябре после 15-месячной работы, в течение которой Совет встречался с экспертами по искусственному интеллекту из промышленности, правительства и научных кругов.
Как известно, искусственный интеллект — это машинная система, способная обучаться и использовать объективные знания и опыт, решать творческие задачи наподобие человеческого мозга и изобретательские задачи без перебора вариантов, выстраивать стратегии и применять абстрактные концепции.
Такой ИИ еще только предстоит создать, но технологии в настоящее время развиваются очень быстро. Разработчиков мотивируют и крупные корпорации, для которых это способ обретения конкурентных преимуществ и новый источник прибылей, и государства, для которых развитие искусственного интеллекта является важным аспектом национальной безопасности и сохранения суверенитета.
К примеру, руководство КНР неоднократно заявляло, что Китай собирается к 2030 году стать мировым лидером в области технологий искусственного интеллекта и крупнейшим центром инноваций, поскольку Поднебесной для поддержания высоких темпов экономического роста необходимо научно-технологическое лидерство.
Успехи России и Китая в военной сфере и в развитии оборонных технологий воспринимаются Соединенными Штатами как вызов их превосходству. Именно поэтому в США принята так называемая «Третья компенсационная стратегия», задача которой внедрить самые современные инновации в военную сферу и вновь обрести подавляющее преимущество над КНР и Россией, которые в подписанной Трампом «Стратегии национальной безопасности» объявлены конкурентами и противниками США.
К таким инновациям в области обороны Пентагон относит искусственный интеллект, взаимодействие машин и военнослужащих, совершенствование беспилотных боевых машин, роботов и автономного оружия, технологии гиперзвука и направленной энергии, а также планирует расширить взаимодействие оборонной промышленности и коммерческого сектора экономики.
«Становится очевидным, что ведущие мировые державы будут стремиться активнее внедрять в оборонную сферу самые современные инновационные технологии, потому что любое техническое отставание от потенциальных противников увеличивает уязвимость, прикрыть которую обычными конвенциональными видами вооружений будет очень сложно», — пояснил «Газете.Ru» заместитель директора Центра анализа стратегий и технологий Константин Макиенко.
В ближайшие несколько лет все ведущие державы будут втянуты в гонку инновационных вооружений. Противники и конкуренты запомнили слова президента Путина, сказанные им 1 сентября 2017 года на открытом уроке в Ярославле:
«Искусственный интеллект — это будущее не только России, это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые сегодня угрозы. Тот, кто станет лидером в этой сфере, будет властелином мира».
«Искусственный интеллект качественно изменит армии и виды вооружений, как когда-то это происходило с изобретением пороха, появлением самолетов и танков, с созданием ядерного оружия. Предотвратить использование искусственного интеллекта в военных целях невозможно», — считает Макиенко.
Все организационные усилия, инвестиции и человеческий капитал в сфере искусственного интеллекта в Соединенных Штатах и Китае сконцентрированы в военных ведомствах. В Вашингтоне и Пекине считают, что вооруженные силы первыми должны овладеть этими перспективные технологиями. Именно в сфере вооруженной борьбы ИИ может дать наиболее быструю и самую эффективную отдачу, считают специалисты во всем мире.
В России проблемы искусственного интеллекта решаются в гражданском поле — в рамках программы «Цифровая экономика Российской Федерации» и федерального проекта «Искусственный интеллект».
До этого были утверждены еще два программных документа по развитию искусственного интеллекта: «Национальная стратегия развития искусственного интеллекта» и «Дорожная карта развития технологий искусственного интеллекта и нейросенсорики».
Что касается разработки правовых и этических норм взаимодействия ИИ с человеком, то на данном этапе эта работа в России пока не вышла за рамки дискуссий.
