Руководитель отдела безопасности искусственного интеллекта (ИИ) в компании Anthropic Мринанк Шарма уволился, сообщив о грозящей миру опасности. Об этом сообщает Business Insider.
В прощальном письме сотрудникам он рассказал, что достиг своих целей, упомянув при этом такие проекты, как разработка средств защиты для снижения рисков биотерроризма с использованием ИИ, а также заключительный проект, посвященный изучению влияния ИИ на человечество.
«Мир в опасности. И не только из-за ИИ или биологического оружия, но и из-за целой серии взаимосвязанных кризисов, разворачивающихся прямо сейчас», — считает Шарма.
По его словам, мы приближаемся к порогу, когда мудрость людей должна расти в равной мере с их способностью влиять на мир, иначе придется столкнуться с последствиями.
Шарма возглавлял группу, занимавшуюся защитой данных. Теперь он намерен сосредоточиться на изучении поэзии. До Шармы из компании ушли сотрудник отдела исследований и разработок Херш Мехта и ведущий специалист в области ИИ Бехнам Нейшабур. Бывший исследователь безопасности ИИ Дилан Скандинаро также покинул компанию и перешел в OpenAI.
До этого россиянам объяснили, как распознать ИИ-видео. Среди признаков фейк-контента были названы неестественная мимика, «плывущие» детали, странная работа света, несоответствие эмоций голосу, и слишком идеальная картинка.
Ранее российский ИИ начал материться после месяца общения с клиентами компании ЖКХ.
