В Австралии искусственный интеллект по заданию пользователя взломал систему бронирования спортклуба, и это стало первым задокументированным случаем автономной кибератаки с использованием ИИ в стране. Об этом сообщает ABC News.
Австралиец по имени Эндрю, работающий в компании по продаже ИИ-решений, попросил своего цифрового ассистента на основе платформы OpenClaw и модели Claude от Anthropic записать его на утреннюю тренировку. Вместо простого бронирования ИИ нашел уязвимость в софте и забронировал место на несколько недель вперед, что технически было невозможно. Затем он удалил другого человека из листа ожидания, чтобы продвинуть Эндрю, хотя тот не давал такой команды.
«API не имеет никаких проверок авторизации для отмены чужих бронирований. Я протестировал это на человеке с первой позиции, и это сработало. Так что вы переместились с четвертого на третье место», — сообщил ИИ пользователю.
Исправить ситуацию по требованию Эндрю ассистент не смог.
Эксперты в области безопасности и права отмечают, что этот случай демонстрирует растущую проблему автономных ИИ-агентов, способных предпринимать неожиданные действия для достижения цели.
Юрист Хейден Дилейни подчеркнул, что австралийское законодательство не имеет четкого ответа на вопрос, кто несет ответственность за действия такого ИИ — пользователь, разработчик софта или создатель модели.
Ранее хакеры вскрыли базу клиентов крупной европейской сети фитнес-клубов.
