Код российского сервиса для выявления утечек данных при работе с ИИ Guardrails Filter сделали общедоступным и загрузили на GitHub. Благодаря этому компании смогут бесплатно развернуть инструмент в собственной ИТ-инфраструктуре и использовать его с любыми ИИ-моделями. Об этом «Газете.Ru» сообщили в пресс-службе компании Cloud.ru, которая и является разработчиком упомянутого ПО.
Опенсорс-версия Guardrails Filter не привязана к платформе Cloud.ru и может работать с любыми языковыми моделями. Компании смогут самостоятельно развернуть сервис в своей инфраструктуре и управлять им через личный кабинет, настраивая правила защиты, просматривая журналы событий и оповещения.
Инструмент работает между корпоративными приложениями и ИИ-моделью. Он автоматически проверяет запросы пользователей и ответы модели на наличие чувствительных данных. Перед отправкой запроса сервис заменяет персональные данные, API-ключи, пароли и другую конфиденциальную информацию синтетическими значениями, а после получения ответа восстанавливает исходные данные. Это позволяет исключить передачу реальных данных языковой модели.
В открытой версии доступны стандартные правила обнаружения чувствительных данных, а также возможность создавать собственные – например, для внутренних номеров договоров, идентификаторов клиентов или кодовых названий проектов. Кроме того, сервис получил журналирование событий безопасности и тестовый режим Ghost Mode, позволяющий проверить его работу до включения защиты.
Ранее Россия присоединилась к созданию новой мировой организации по искусственному интеллекту.
