Аналитическая компания Gartner рекомендовала организациям пресекать использование сотрудниками так называемых «агентских ИИ-браузеров» вроде Comet от Perplexity и ChatGPT Atlas от OpenAI, из-за высоких киберрисков. В новом отчете эксперты предупреждают, что настройки таких браузеров по умолчанию ставят удобство пользователя выше безопасности. Об этом сообщает издание The Register.
Главную опасность, по мнению аналитиков, представляют две функции: «ИИ-сайдбар», который отправляет историю просмотров и данные открытых вкладок в облачный ИИ-сервис, и возможность автономного взаимодействия с веб-сайтами (например, заполнения форм или совершения действий в авторизованных сессиях). Это создает риски утечки конфиденциальной информации и потери учетных данных, если браузер обманом перенаправят на фишинговый ресурс.
Эксперты также описали потенциальные сценарии злоупотреблений. Например, сотрудники могут поручить ИИ-браузеру автоматически проходить обязательные тренинги по кибербезопасности, что лишит обучение смысла. Другой риск — подключение таких агентов к внутренним системам закупок, что может привести к ошибочным заказам или покупке ненужных товаров из-за некорректных действий языковой модели.
В качестве мер защиты Gartner предлагает оценить безопасность облачных ИИ-сервисов, на которых работает браузер, и принять решение о допустимости их использования. Если риски признаны неприемлемыми, компаниям советуют полностью запретить установку таких браузеров. Даже в случае одобрения необходимо обучать сотрудников тому, что любой просматриваемый контент может быть отправлен в облако, и запрещать работу с конфиденциальными данными через ИИ-сайдбар.
Дополнительные меры включают отключение у агентов доступа к электронной почте и настройки, препятствующие сохранению данных.
Ранее эксперт рассказал, как ИИ стал оружием массового обмана россиян перед Новым годом.
