ИБ-специалисты назвали новую угрозу безопасности

Bloomberg объяснил причину следующего кризиса кибербезопасности проблемами в обучении ИИ

Следующий кризис кибербезопасности будет связан с «отравлением» данных для обучения ИИ, пишет портал Bloomberg со ссылкой на слова ИБ-специалистов.

Многие ИБ-компании используют ИИ для защиты систем от вредоносного ПО. Специалисты загружают примеры хакерского программного обеспечения в нейросеть, которая учится на них выявлять зловреды.

Системам машинного обучения требуется огромное количество примеров для точного выявления угроз, поэтому даже крупнейшим ИБ-компаниям придется обращаться к открытым базам данных.

Это предоставляет хакерам возможность манипулировать данными для обучения ИИ и незаметно проникать в охраняемые системы.

Злоумышленники при создании вредоносного кода могут помечать его образцы как безопасные и затем добавить его к пакету данных для обучения нейросети. Сообщается, что выявить такие примеры для обучения практически невозможно.

Благодаря этому в будущем хакер может обмануть нейронную сеть и выдать опасный код за безвредный.

Ранее «Газета.Ru» рассказывала о том, что из-за санкций российские хакеры вынуждены искать новые методы отмывания украденных средств.