Цивилизация
Ученые и «айтишники» перестали понимать, как именно нейросеть принимает решения, передает телеканал «360».
В этом они признались на главной мировой конференции по искусственному интеллекту (ИИ) ‐ Neural Information Processing Systems. Впрочем, речь о многократно описанном в фантастике «восстании машин» пока не идет. Подробности сообщил Quartz.
Эксперты предлагают действовать, пока система не стала слишком сложной и не вышла из-под контроля. «Мы не хотим довольствоваться произвольными решениями, принятыми людьми или ИИ, которые нам непонятны, - пояснил Джейсон Йосински из Uber. --Чтобы модели машинного обучения были приняты обществом, нам нужно знать, почему ИИ принимает те или иные решения».
Кири Вагстафф - ИИ-эксперт в Jet Propolusion Lab (NASA) - согласен с коллегой и дополнил его опасения своими. «Если у вас есть космический корабль на орбите вокруг Марса, то он находится на расстоянии 200 миллионов миль, он стоит сотни миллионов долларов, может быть даже миллиард долларов. Если что-то пойдет не так, нет никакого способа отремонтировать, заменить любой его узел, не тратя огромную сумму денег», — заявил эксперт.
Иными словами, то, чем еще недавно восторгались и о чем писали хвалебные статьи журналисты, повернулось темной стороной. Речь о способности искусственного интеллекта к самообучению и самосовершенствованию, которая стала угрозой для человечества. По словам ученых, можно говорить, что искусственный интеллект научился абстрактно мыслить - а значит, принимать алогичные решения.
Тяжеловесное, но тем не менее рабочее решение предложила исследователь из Google Мэтра Рагху. В своем докладе она описала процесс отслеживания действий отдельных «нейронов» нейросети. Проанализировав миллионы операций, она поняла, какие из искусственных «нейронов» концентрировались на неверных представлениях. После этого стало возможным их отключить.
