Модель с закрытыми весами, для работы которой необходим постоянный интернет, аккаунт у американской компании и разрешение этой компании на конкретный сценарий использования, — это цифровое рабство, считает собеседник «Газеты.Ru», главный технологический эксперт «Лаборатории Касперского» Александр Гостев.
Нейросеть представляет собой огромный набор чисел — коэффициентов, определяющих, как модель обрабатывает информацию и дает ответ. Эти коэффициенты называются весами. Вес показывает, насколько важен тот или иной сигнал на входе для принятия решения. Например, если нейросеть должна понять, кошка перед ней или собака, вес «скажет»: «смотри на форму ушей (вес большой)», «длина хвоста не очень важна» (вес меньше). Эти весы могут быть закрытыми (нельзя скачать) или открытыми (можно скачать, а потом и доработать).
«Я абсолютно убежден, что будущее за моделями с открытыми весами. Только так можно обеспечить использование ИИ в любых устройствах и задачах: на телефонах, в автомобилях, промышленном оборудовании, роботах, медицинских приборах и закрытых корпоративных системах. Модель, для работы которой необходим постоянный интернет, аккаунт у американской компании и разрешение этой компании на конкретный сценарий использования, — это цифровое рабство», — рассказал Гостев.
По его словам, провайдер может изменить модель без вашего согласия, поднять цену, отключить функцию, запретить использование в вашей стране, потребовать новые документы или просто закрыть сервис.
«Все запросы при этом обрабатываются на его инфраструктуре, а пользователь должен верить его обещаниям о конфиденциальности. Мне ближе другая конструкция: миллионы владельцев моделей, независимые разработчики и контроль непосредственно над опасными действия», — рассказал Гостев.
Однако открытые веса труднее контролировать: например, можно скачать себе на компьютер самый сильный ИИ с открытыми весами, а потом обучить его для того, чтобы он помог синтезировать смертоносный вирус.
Ранее эксперт Kaspersky назвал одну область в регулировании ИИ, в которой страны смогут договориться.
