За 2025 год количество конфиденциальной информации, которую сотрудники компаний в России передают публичным ИИ-системам, увеличилось более чем в 30 раз. В запросы попадают договоры, финансовые отчеты организаций, персональные данные клиентов и другая подобная информация. Об этом в разговоре с газетой «Известия» предупредил руководитель направления Т1 ИИ Сергей Голицын.
По словам специалиста, основной проблемой является отсутствие контроля над передачей данных в ИИ-системы.
«При этом у 60% организаций нет четкой политики по использованию ИИ‑инструментов и больших языковых моделей (LLM). Особую опасность представляют сценарии, когда разработчики используют публичные LLM‑интерфейсы для работы с кодом: во внешние сервисы могут утечь фрагменты внутренней логики и чувствительная бизнес‑информация», — объяснил он.
Эксперт подчеркнул, что в программном обеспечении, которое создано только с помощью ИИ, содержится в 15 раз больше уязвимостей, чем написанном человеком. Одними из самых распространенных проблем являются отсутствие фильтрации ввода и некорректная авторизация. Также угроза может быть связана с агентными системами. При компрометации подобные системы предоставляют злоумышленникам доступ ко всему ИТ‑контуру компании.
Для того чтобы решить эту проблему, следует развертывать ИИ‑инструменты только внутри собственного ИТ‑периметра, а также пользоваться исключительно проверенными библиотеками данных.
До этого и. о. ректора Казанского государственного медицинского университета (КГМУ) Айрат Фаррахов сообщил, что в Татарстане планируют создать ИИ-помощника для врачей в первичном звене. После внедрения приложение будут продавать в другие регионы страны ради масштабирования и доходов в бюджет республики.
Ранее были названы последствия внедрения ИИ на российском рынке труда.
