Новости

ОК запустили нейросеть для борьбы с агрессивными комментариями

5 марта 2022
2 мин. чтения
ОК запустили нейросеть для борьбы с агрессивными комментариями

Социальная сеть Одноклассники запустила технологию на базе нейросетей для борьбы с агрессивными высказываниями и разжиганием розни в публичных комментариях. Нейросеть будет оценивать тексты и изображения в комментариях на наличие токсичного содержания, после чего выдавать оценку модераторам для проверки. Запуск технологии стал очередным шагом в развитии комфортной среды для общения в ОК.

Новый алгоритм позволит создать уважительную среду для общения внутри социальной сети. Нейросеть будет автоматически анализировать уровень агрессии в комментариях, далее оценка от алгоритма будет доступна модераторам соцсети. Технология уже работает на всех платформах. В десктопной версии соцсети пользователи, которые получили временный запрет, при попытке оставить комментарий увидят сообщение с объяснениями и ссылкой на подробности о работе нового алгоритма. В ближайшее время эта функция появится и в приложениях на iOS и Android.

Все призывы к разжиганию ненависти и ксенофобии по отношению к любой нации или другой группе людей, в том числе с использованием нецензурной лексики, а также угрозы другим пользователям будут блокироваться. При анализе изображений в комментариях алгоритм определит наличие шокирующего содержания и актов насилия, которые после проверки тоже будут удалены. Технология запущена в рамках глобального построения безопасности VK.

Пользователи, которые нарушают правила соцсети и выражают свое мнение враждебно по отношению к другим, получат временный запрет на комментирование любого контента в ОК. При попытке оставить комментарий соцсеть покажет уведомление и ссылку на правила поведения. Кроме того, авторы комментариев могут получить временный «отдых» от дискуссий, если на их высказывания поступает много жалоб и система определила их как токсичные и агрессивные.

ОК заботятся о безопасности пользователей: в феврале 2022 года соцсеть запустила Центр безопасности сообщений, в котором собраны правила безопасного и корректного общения в соцсети, а также способы защиты от нежелательного контента в личных переписках.

63
7
4
3
12

Материалы по теме

Одноклассники запустили новое направление «Здоровье»

В Одноклассниках запустили новый раздел сервиса «Увлечения» — «Здоровье». Здесь пользователи платформы могут делиться полезным контентом о самочувствии, а также обсуждать с экспертами, как вести здоровый образ жизни и заботиться о себе и своих близких. Среди популярных тем — правильное питание, здоровый образ жизни, неврология, гимнастика, здоровье суставов, артериальное давление, боли в спине.

На странице «Мероприятия» пользователи найдут анонсы событий для тех, кто хочет вести здоровый образ жизни, — лекции, вебинары, встречи и группы поддержки от медицинских организации и просветительских проектов.

Образовательный контент нового раздела дополнят полезные интерактивные приложения, которые помогут ежедневно следить за самочувствием:

  • Мини-приложение «Здоровье» поможет собрать данные об основных показателях здоровья. С помощью сервис удобно прививать полезные привычки — например, регулярно отслеживать приём лекарств и контролировать симптомы болезней, а также бросать курить или научиться медитировать.
  • Мини-приложение «Дневник питания» поможет контролировать приёмы пищи, следить за водным балансом и фиксировать изменения веса.

В будущем список приложений будет обновляться — в нём появятся и другие полезные сервисы для заботы о себе.

52
5 мин.
Каким стал 2024 год для ОК: рост аудитории, новые форматы и важные обновления

Компания VK опубликовала финансовые и операционные результаты за 2024 год. Рассказываем, каких результатов удалось достичь ОК в прошлом году, а также делимся самыми главными проектами и нововведениями на платформе за это время.

94
7 мин.
ОК внедрили новую систему возврата и удержания пользователей на базе ИИ

Одноклассники внедрили новую систему возврата и удержания пользователей соцсети, которая функционирует на базе ML-технологий. Внутренние алгоритмы анализируют поведение пользователей соцсети, сегментируют аудиторию, персонализируют контент, оптимизируют время отправки push-уведомлений и их количество на конкретного пользователя с учётом его интересов. Внедрение модели позволило ОК вернуть часть ранее неактивной или менее активной аудитории и увеличить её размер итогам 2024 года.

Система разделяет push-уведомления на два типа — обязательные и рекомендательные. Первые — связаны с уведомлением пользователя о важных обновлениях, которые отправляются ему в момент события. Это, например, новые заявки в друзья, сообщения или подарки. Второй тип уведомлений — это ретеншн-пуши. Они касаются предложений изучить свежий контент, появляющийся на площадке ОК с учётом интересов пользователя. Модель учитывает десятки параметров при взаимодействии с контентом и при отправке уведомления учитывает, что пользователь, например, начал чаще смотреть Клипы или читать посты блогеров определённой тематики.

Новая технология способствует более точной сегментации и персонализации, повышая вовлеченность пользователей и увеличивая время, проводимое в приложении и позволяет площадке более точечно коммуницировать со своими пользователями и выбирать для этого наиболее релевантный повод и тайминг.

Обновлённая ретеншн-система появилась в Одноклассниках в третьем квартале 2024 года и наряду с другими продуктовыми обновлениями повлияла на рост MAU (месячная активная аудитория пользователей) социальной сети впервые за пять лет. По итогам 2024 года этот показатель увеличился до 36,2 млн. За год аудитория соцсети выросла на 1,2 млн пользователей.

86
2 мин.