Новости

ОК защитят пользователей от навязчивого общения в сети

16 ноября 2023
3 мин. чтения
ОК защитят пользователей от навязчивого общения в сети

Одноклассники запустили модель на основе машинного обучения, которая ограничивает навязчивые знакомства и общение с нежелательными собеседниками в соцсети. 

Теперь пользователи ОК, которые часто отказываются от общения и знакомств, не получат информации об активности тех аккаунтов, которые навязывают общение и знакомства в сети. Киберсталкеры, в свою очередь, будут ограничены в количестве диалогов с незнакомыми им пользователями. Обновление будет способствовать дальнейшему развитию комфортной среды для общения в ОК и снизит количество нежелательных знакомств на площадке. 

Для защиты пользователей ОК анализирует социальное взаимодействие – дружба и запросы на нее, посещение страницы, подарки и ряд других параметров –  в режиме реального времени между незнакомыми пользователями и делит их на категории. Нейросеть находит те аккаунты, которые регулярно добавляют в друзья людей без  общих знакомых, массово отправляют подарки незнакомцам, ставят им классы и пишут личные сообщения. К другой группе модель ОК относит людей, которые часто отклоняют заявки в друзья, заносят в «‎черный список»‎ пользователей, отказываются от подарков или жалуются на действия незнакомых людей. 

На основе собранных данных ОК ограничивает взаимодействие между этими группами аккаунтов и скрывает уведомления от навязчивых собеседников, например, о заявке в друзья, классах на фотографиях или постах, подарках, посещениях страницы. Модель также снижает количество возможных бесед между этими группами пользователей – те, кто массово отправляют личные сообщения, будут ограничены в количестве диалогов.  

Модель была протестирована на разных аудиториях ОК в течение нескольких месяцев, и в рамках эксперимента число жалоб на навязчивое внимание со стороны незнакомых аккаунтов снизилось на 25% по сравнению с предыдущими периодами. Пользователи, которые ранее часто отказывались от общения, стали реже отклонять заявки в друзья и добавлять незнакомых людей в «‎черный список», так как нежелательная активность перестала отвлекать внимание, а сами запросы в друзья стали более релевантными.

Запуск новой технологии машинного обучения сделает взаимодействие внутри соцсети комфортнее и будет способствовать поддержанию дружелюбной атмосферы в ОК. 

Денис Горчаков
директор по информационной безопасности ОК

«‎Проблема навязчивого внимания одного человека к другому в сети, так называемого киберсталкинга, актуальна для всех платформ и сервисов, где есть  социальное взаимодействие, но в особенности, конечно, для социальных сетей и мессенджеров. Подобное внимание может даже сократить пользование платформой. Решение оградить пользователя от навязчивого поведения оказалось эффективным: мы видим, что  пользователям стало комфортнее общаться в соцсети, так как число жалоб на нежелательную активность со стороны незнакомых людей заметно снизилось».

0
0
0
1
3

Материалы по теме

ОК запустили бесконечную ленту рекомендаций под постами и представили ее новый дизайн

Одноклассники представили бесконечную ленту рекомендаций под всеми публикациями, размещёнными в соцсети. Обновление позволит активным пользователям проще ориентироваться в предлагаемом контенте и быстрее выбирать наиболее интересные и визуально привлекательные посты для просмотра.

Алгоритмы социальной сети анализируют процесс потребления контента пользователями и предлагают наиболее активным из них сетку рекомендуемых постов в формате бесконечной ленты. Это не только текстовый и фотоконтент, но и видеоролики. При этом пользователи, которые менее углубленно погружаются в контент на платформе, будут видеть в рекомендациях меньшее, но оптимальное для них количество постов.

Новый интерфейс удобнее не только для пользователей, но и для авторов. Люди смогут быстрее находить и подписываться на релевантные группы в ОК, а блогеры получат большее количество просмотров своих публикаций, повысят вовлечённость и охват публикуемого контента среди целевой аудитории.

Обновлённый интерфейс доступен на экранах всех публикаций в ОК, в том числе в сервисе «Увлечения» в мобильной версии приложения, а также на iOS и Android.

4
6 мин.
Россияне рассказали про самые неудачные покупки на распродажах

Социальная сеть «Одноклассники» и финтех-компания «ЮMoney» провели опрос более 2000 пользователей электронного кошелька, чтобы выяснить, что россияне покупают на ноябрьских распродажах. Результаты показали, что четверть опрошенных совершает покупки спонтанно, 35% следят за сезонными скидками, а 47% респондентов верят в то, что скидки реальны.

Согласно данным опроса, 60% респондентов отметили, что не следят за распродажами, в то время как 35% опрошенных активно их отслеживают. Еще 5% делают это время от времени. Среди тех, кто следит за распродажами, 45% планируют совершать покупки на Черную пятницу, 40% готовы купить товар, если он им понравится, а 10% не планируют ничего приобретать.

Большинство покупателей (61%) ищут скидки на маркетплейсах. В торговые центры ходят 23% опрошенных, а 16% делают покупки через соцсети. По данным аналитиков соцсети ОК, с начала ноября 2024 года среднее количество публикаций в Ленте и в сервисе “Увлечения” с упоминаниями о распродажах, скидках, акциях и специальных предложениях на площадке выросло на 33% по сравнению с предыдущим месяцем.

Что касается вопроса о том, сколько россияне готовы потратить на покупки во время распродаж, 53% респондентов признались, что могут выделить от 5 до 10 тысяч рублей. Четверть опрошенных готовы потратить от 10 до 20 тысяч рублей, еще 10% – от 30 до 50 тысяч рублей, и столько же респондентов готовы потратить более 100 тысяч рублей.

Согласно исследованию, 25% россиян не готовятся к возможным скидкам, а 22% заранее наполняют корзину в онлайн-магазинах или на маркетплейсах. Еще 19% сравнивают цены на разных сайтах. 11% респондентов следят за динамикой цен на маркетплейсах, 10% изучают цены в магазинах, 7% составляют списки покупок, а 6% покупают только то, что планировали, независимо от размера скидки.

Отвечая на вопрос о том, что россияне чаще всего покупают на распродажах, респонденты могли выбрать несколько вариантов ответа. Лидируют покупки одежды, обуви и аксессуаров (65%), а также электроники и бытовой техники (52%). Еще 13% опрошенных покупают ювелирные украшения и оплачивают подписки на онлайн-сервисы, 8% – билеты в театры и на концерты. 5% респондентов тратят деньги на курсы, тренинги и мастер-классы.

Четверть россиян признаются, что их самыми неудачными покупками на распродажах были предметы нижнего белья и товары из категории техники и электроники. Еще 15% респондентов недовольны покупками одежды и обуви известных брендов, которые приобрели только из-за большой скидки.

ОК сократили токсичность в комментариях почти вдвое с помощью ИИ

Одноклассники стали временно ограничивать пользователей, которые пишут оскорбительные комментарии. Разработка на основе машинного обучения позволила сократить долю и количество негативных высказываний под постами, фотографиями и видео на 47%.

Одноклассники внедрили модель машинного обучения, позволяющую автоматически выявлять токсичные комментарии и ограничивать их авторов в написании новых на определённый промежуток времени — от одного часа до 24 часов, в зависимости от того, как часто пользователь оставляет негативные высказывания в адрес других.

По данным исследования ОК, негативные посты вызывают злость у более чем 40% пользователей, принявших участие в опросе. ML-модель была обучена на 400 тысячах высказываний, которые можно описать как недружелюбные или провоцирующие негативную дискуссию. Чтобы выяснить, какие комментарии, по мнению пользователей ОК, токсичны и нежелательны, соцсеть провела исследование среди своей аудитории. Запуск ML-модели позволил сократить время обработки жалоб на токсичные посты в три раза и быстрее помочь людям с решением их проблем.

Ранее в этом году соцсеть начала автоматически обнаруживать на платформе нецензурные слова и скрывать их, а также размывать изображения эротического характера. ОК используют модерацию на базе машинного обучения, чтобы ограничивать другой нежелательный и неприемлемый контент. Например, блокируют то, что предназначено для аудитории 18+, размывают и удаляют фотографии со сценами насилия. В прошлом году соцсеть также запустила ML-модель, ограничивающую навязчивые знакомства и общение с нежелательными собеседниками на площадке.

41
6 мин.