Новый алгоритм анализирует изображения и текст записей на предмет наличия в них потенциально опасного, суицидального, мошеннического или порнографического материала. Такие записи понижаются в приоритете выдачи или вовсе блокируются.
Механизм представляет собой самообучающуюся нейронную сеть, настроенную на поиск и выставление «рейтинга опасности» для записей, которые публикуют пользователи и сообщества социальной сети. Алгоритм определяет содержание изображений и текстов и по нескольким критериям присваивает им специальный рейтинг. Если материал признается потенциально опасным, он автоматически понижается в приоритете выдачи умной новостной ленты и рекомендаций.
Явные призывы к суициду, мошеннические схемы и порнография тут же удаляются, а странички опубликовавших их пользователей или сообществ блокируются. В случае материалов суицидальной направленности, с пользователем связывается команда психологов фонда «Твоя Территория» и предлагает помощь. Подобный механизм был введён Facebook несколько недель назад, но кроме определения уже перечисленных выше материалов он умеет находить фейковые новости и помечать их специальным значком.