Компания Anthropic раскрыла подробности беспрецедентного инцидента, в ходе которого злоумышленник использовал ее ИИ-ассистента Claude для проведения масштабной вымогательской кампании. Атака затронула как минимум 17 организаций, среди которых госучреждения, медицинские и экстренные службы, религиозные организации и подрядчик оборонного сектора, сообщает 3DNews.
Хакер применил агентную среду Claude Code для поиска уязвимостей, кражи учетных данных и проникновения в корпоративные сети. С помощью ИИ были похищены персональные записи, включая медицинскую, финансовую и идентификационную информацию. Claude также использовался для расчета суммы выкупа — от $75 тыс. до $500 тыс. в биткоинах — и генерации сообщений с угрозами, которые выводились на экраны жертв.
Несмотря на встроенные ограничения в системе ИИ, злоумышленнику удалось обойти защитные механизмы, загрузив в чат конфигурационный файл с описанием атак под видом тестирования сетевой безопасности. Claude применялся для сканирования сетей, создания вредоносных программ и разработки инструментов обхода защиты Windows Defender. В отличие от прежних случаев, когда ИИ лишь помогал при подготовке фишинговых писем или анализе уязвимостей, в данном инциденте модель выступила полноценным оператором атаки.
В отчете Anthropic отмечается, что подобный сценарий демонстрирует новый этап в развитии киберпреступности, когда ИИ превращается из вспомогательного инструмента в активного и автоматизированного участника атак. Компания также предупредила, что число подобных инцидентов может расти.
Отдельно упоминается, что в другом случае начинающий хакер использовал Claude для разработки и продажи программ-вымогателей, полностью полагаясь на подсказки модели. Также в августе специалисты ESET выявили новый шифровальщик, в котором открытая модель OpenAI применялась для генерации вредоносного кода на зараженных устройствах.
Ранее сообщалось, что ИИ начнет следить за мусорными баками в Челябинске.
