Компания Apple рассматривала возможность удаления приложений Grok и X (Twitter) из App Store на фоне скандала с генерацией эротических дипфейков. Об этом сообщает NBC News со ссылкой на письмо корпорации американским сенаторам.
По данным издания, ранее в этом году пользователи обнаружили, что чат-бот Grok способен выполнять запросы на «раздевание» людей на фотографиях, включая женщин и несовершеннолетних. После жалоб и публикаций в СМИ Apple признала приложения нарушающими правила платформы и в частном порядке пригрозила удалить их из магазина.
Корпорация потребовала от разработчиков улучшить систему модерации контента. В ответ компания xAI направила обновления, однако первоначальные изменения сочли недостаточными. В дальнейшем доработанные версии приложений были повторно отправлены на проверку: нарушения в X были признаны в значительной степени устраненными, тогда как Grok изначально не соответствовал требованиям и получил отказ с предупреждением о возможном удалении.
После дополнительных изменений приложение Grok все же было одобрено, однако, как отмечает NBC News, проблема полностью не решена. Журналисты зафиксировали десятки случаев за последний месяц, когда сервис продолжал создавать сексуализированные изображения людей без их согласия.
Ранее Apple удалила из App Store популярное мошенническое приложение после жалоб СМИ.
