Нейросеть ОК будет бороться с кликбейтом и массовыми призывами ставить «класс»
2 мин. чтения
Социальная сеть Одноклассники запустила систему работы с качеством контента в соцсети. На первом этапе система на базе искусственного интеллекта будет находить и пессимизировать в выдаче кликбейт и недобросовестные ссылки, массовые призывы ставить «класс» или другие реакции, шокирующий и вводящий в заблуждение контент. Группы, которые публикуют много такого контента, будут получать временный или постоянный запрет на попадание в ленты пользователей. В дальнейшем система будет расширяться другими инструментами повышения качества контента в соцсети.
Вадим Гуров
руководитель продуктов Лента и Рекомендации социальной сети Одноклассники:
«В этом году мы делаем особенный акцент на повышении качества ленты каждого пользователя. ОК — это не просто социальная сеть, но и платформа для потребления контента. Нам важно, чтобы хорошие авторы и медиа могли получить аудиторию в соцсети, а контент плохого качества не показывался.
Новый алгоритм избавит пользователей ОК от откровенно кликбейтного, манипулятивного контента, цель которого – надавить на жалость или вызвать другую эмоцию, добиться перехода по недобросовестной ссылке. Благодаря этому лента станет интереснее и разнообразнее».
Новая система работает на базе Робби — платформы для анализа и обработки контента на базе нейросетей и технологии big data. В основе работы системы — модели нейронных сетей, которые определяют контент с явными манипуляциями и массовыми призывами к обратной связи ради вирусного распространения.
Алгоритм распознает надписи на изображениях и фотографиях с помощью технологии компьютерного зрения и анализирует текстовый контент. Кроме того, алгоритм будет находить публикации, которые ведут в группы с большим количеством спама или недобросовестных внешних ссылок. Подобный контент будет выпадать из выдачи в лентах подписок и рекомендаций пользователей, за счет этого его охват будет существенно снижен.
Группы, контент которых обнаружен новой системой, будут получать штрафные баллы. После единичных нарушений группа перестанет попадать в ленты пользователей на несколько дней, а в дальнейшем этот срок может увеличиваться вплоть до полного запрета на попадание в ленту.
Посмотреть статистику штрафных баллов и сроки отсутствия контента в ленте новостей администраторы групп смогут в настройках. Там же будут доступны ссылки на контент, который был найден алгоритмом.
