Пользователи Instagram (владелец компания Meta признана в России экстремистской и запрещена) массово пожаловались на показ неприемлемого и шокирующего контента в ленте рекомендаций Reels. Об этом написал Telegram-канал «Осторожно, новости».
По словам пользователей, им показывают видео со сценами расправ, извращенных действий и даже кадрами мучений людей.
Журналисты проверили несколько видео в ленте и подсчитали, что из десяти роликов восемь имели предупреждение о потенциально неприемлемом контенте. Однако даже на видео без предупреждений могли попадаться жуткие сцены.
Разработчик программного обеспечения из Индии тоже показал в соцсети Х видеозапись собственной ленты Reels, где большая часть видео, действительно, выдавались с пометкой о неприемлемом содержании.
По предварительным данным, причиной такого инцидента мог стать сбой в алгоритмах, которые отвечают за модерирование контента. Сейчас на платформе за фильтрацию нежелательного материала отвечают искусственный интеллект и люди-модераторы. ИИ, который можно включить в настройках приложения, распознает явные нарушения, а сотрудники уточняют настройки, проверяют отдельные сложные случаи и вручную убирают опасный контент. В компании Meta (признана в России экстремистской и запрещена) пока официально не комментировали ситуацию.
Ранее в работе чат-бота ChatGPT произошел массовый сбой.