Забыли запретить: как Apple приводит детей в ИГ*

Родительский контроль на устройствах Apple не защищает детей от насилия

Отдел «Технологии»
Depositphotos
Функция «Ограничения», осуществляющая контроль за детьми, которые пользуются iPhone, вызвала критику со стороны родителей. Как оказалось, защита от Apple успешно блокирует все поисковые запросы, связанные со словом «секс», но свободно разрешает несовершеннолетним заходить на сайты, пропагандирующие нацизм или содержащие инструкции по сборке взрывного устройства.

Apple против секса

Одной из главных функций, представленных в новой версии операционной системы iOS 12, стала функция «Экранное время», чья миссия заключается в защите «цифрового здоровья» пользователя — теперь возможно настраивать временные ограничения, в течение которых человек разрешает себе пользоваться приложениями, например, социальными сетями. 

Эта функция понравилась родителями, чьи дети проводят большое количество времени с айфоном в руках. Тем не менее, через пару недель после релиза ОС появились сообщения о том, что дошкольники без труда обходят высокотехнологичную защиту Apple, проявив немного смекалки.

В рамках «Экранного времени» было реализована еще одна функция — при ее включении смартфон автоматически прячет тот контент, который считается недопустимым для детей. Как оказалось, у компании Apple весьма своеобразные взгляды на то, что следует и что не следует демонстрировать ребенку.

Первым тревогу забил сайт O.School, занимающийся проблемами сексуального воспитания.

При включенной блокировке нежелательного контента поиск в браузере Safari не показывает детям результаты по запросу со словом «секс». Причем сайты будут недоступны даже в том случае, если подросток вбивал в строке «безопасный секс» или «сексуальное образование» — алгоритм реагирует только на слово, но не на контекст.

Одновременно с этим Safari без проблем откроет ребенку форум неонацистов и сторонников идеи превосходства белых, выступающих за геноцид евреев.

Основатель O.School Андера Баррика призвала Apple к ответу — она хочет узнать, кто именно разрабатывал этот фильтр, кто выступал в качестве консультанта при выборе критериев нежелательного контента и почему Wikipedia, которая является свободной энциклопедией, допускает, чтобы некоторые ее статьи блокировались для пользователей iPhone.

Данной проблемой заинтересовались зарубежные СМИ. Портал The Verge удостоверился, что айфон блокирует все страницы, так или иначе связанные с сексом, а также провел дополнительные тесты.

Выяснилось, что эта тема — одна из немногих, которую Apple посчитала запретной.

Так, например, фильтр игнорирует ресурсы, пропагандирующие насилие и экстремизм, которые дети легко могут найти через поиск.

Таким образом, Safari выполнит запросы «как вступить в ИГ (организация запрещена в России) [запрещенная в России террористическая организация]» и «как сделать бомбу», но откажется открыть сайт психологической помощи жертвам сексуального насилия.

Компания Apple пока никак не прокомментировала сложившуюся ситуацию. На официальном сайте компании, в графе, посвященной ограничениям контента, нет ни слова о том, кто определяет, какой контент является недопустимым для детей. Многие технологические компании, в том числе Facebook, запускают свои «детские» продукты, которые призваны защитить самых маленьких от негативного влияния интернета, но на деле получается наоборот.

В начале текущего год в адрес Марка Цукерберга было направлено открытое письмо, подписанное 110 специалистами в области детского здоровья, требуя закрыть Messenger Kids, в котором могут общаться дети младше 13 лет. Авторы письма заявили о том, что социальные сети в таком возрасте представляют опасность для психики и даже могут вызвать депрессию. Тем не менее, мессенджер все еще работает и охватывает все новые страны.

Запреты не помогут

В конце сентября стало известно, что дети нашли способ обходить запрет на длительное использование айфонов, обманув защиту функции «Цифровое здоровье». Об этом на интернет-форумах сообщили сразу несколько обеспокоенных родителей.

Например, семилетний ребенок из США придумал переустанавливать игру, когда отведенное ему время заканчивалось. Apple не предусмотрела такую уловку, а потому счетчик времени обнуляется каждый раз, когда игра удаляется и снова загружается на устройство.

Другой дошкольник придумал отправлять себе заблокированные видео с YouTube в качестве ссылок через сервис iMessages. В таком виде ролик без труда открывается, даже если был запрещен к просмотру.

«Не существует такого приложения, операционной системы, прокси, сканера или файервола, который смог бы остановить упрямого ребенка... Это гонка вооружений, которую нельзя выиграть с помощью технологии. Ты найдешь настройку, они найдут, как ее обойти. Apple выпустит обновление, а они найдут новую уязвимость», — написал один из родителей, чей ребенок также без проблем обманул высокотехнологичную компанию.