Следующий кризис кибербезопасности будет связан с «отравлением» данных для обучения ИИ, пишет портал Bloomberg со ссылкой на слова ИБ-специалистов.
Многие ИБ-компании используют ИИ для защиты систем от вредоносного ПО. Специалисты загружают примеры хакерского программного обеспечения в нейросеть, которая учится на них выявлять зловреды.
Системам машинного обучения требуется огромное количество примеров для точного выявления угроз, поэтому даже крупнейшим ИБ-компаниям придется обращаться к открытым базам данных.
Это предоставляет хакерам возможность манипулировать данными для обучения ИИ и незаметно проникать в охраняемые системы.
Злоумышленники при создании вредоносного кода могут помечать его образцы как безопасные и затем добавить его к пакету данных для обучения нейросети. Сообщается, что выявить такие примеры для обучения практически невозможно.
Благодаря этому в будущем хакер может обмануть нейронную сеть и выдать опасный код за безвредный.
Ранее «Газета.Ru» рассказывала о том, что из-за санкций российские хакеры вынуждены искать новые методы отмывания украденных средств.