Новости

ОК запустили нейросеть для борьбы с агрессивными комментариями

5 марта 2022
2 мин. чтения
ОК запустили нейросеть для борьбы с агрессивными комментариями

Социальная сеть Одноклассники запустила технологию на базе нейросетей для борьбы с агрессивными высказываниями и разжиганием розни в публичных комментариях. Нейросеть будет оценивать тексты и изображения в комментариях на наличие токсичного содержания, после чего выдавать оценку модераторам для проверки. Запуск технологии стал очередным шагом в развитии комфортной среды для общения в ОК.

Новый алгоритм позволит создать уважительную среду для общения внутри социальной сети. Нейросеть будет автоматически анализировать уровень агрессии в комментариях, далее оценка от алгоритма будет доступна модераторам соцсети. Технология уже работает на всех платформах. В десктопной версии соцсети пользователи, которые получили временный запрет, при попытке оставить комментарий увидят сообщение с объяснениями и ссылкой на подробности о работе нового алгоритма. В ближайшее время эта функция появится и в приложениях на iOS и Android.

Все призывы к разжиганию ненависти и ксенофобии по отношению к любой нации или другой группе людей, в том числе с использованием нецензурной лексики, а также угрозы другим пользователям будут блокироваться. При анализе изображений в комментариях алгоритм определит наличие шокирующего содержания и актов насилия, которые после проверки тоже будут удалены. Технология запущена в рамках глобального построения безопасности VK.

Пользователи, которые нарушают правила соцсети и выражают свое мнение враждебно по отношению к другим, получат временный запрет на комментирование любого контента в ОК. При попытке оставить комментарий соцсеть покажет уведомление и ссылку на правила поведения. Кроме того, авторы комментариев могут получить временный «отдых» от дискуссий, если на их высказывания поступает много жалоб и система определила их как токсичные и агрессивные.

ОК заботятся о безопасности пользователей: в феврале 2022 года соцсеть запустила Центр безопасности сообщений, в котором собраны правила безопасного и корректного общения в соцсети, а также способы защиты от нежелательного контента в личных переписках.

63
7
4
3
12

Материалы по теме

Каким стал 2024 год для ОК: рост аудитории, новые форматы и важные обновления

Компания VK опубликовала финансовые и операционные результаты за 2024 год. Рассказываем, каких результатов удалось достичь ОК в прошлом году, а также делимся самыми главными проектами и нововведениями на платформе за это время.

44
7 мин.
ОК внедрили новую систему возврата и удержания пользователей на базе ИИ

Одноклассники внедрили новую систему возврата и удержания пользователей соцсети, которая функционирует на базе ML-технологий. Внутренние алгоритмы анализируют поведение пользователей соцсети, сегментируют аудиторию, персонализируют контент, оптимизируют время отправки push-уведомлений и их количество на конкретного пользователя с учётом его интересов. Внедрение модели позволило ОК вернуть часть ранее неактивной или менее активной аудитории и увеличить её размер итогам 2024 года.

Система разделяет push-уведомления на два типа — обязательные и рекомендательные. Первые — связаны с уведомлением пользователя о важных обновлениях, которые отправляются ему в момент события. Это, например, новые заявки в друзья, сообщения или подарки. Второй тип уведомлений — это ретеншн-пуши. Они касаются предложений изучить свежий контент, появляющийся на площадке ОК с учётом интересов пользователя. Модель учитывает десятки параметров при взаимодействии с контентом и при отправке уведомления учитывает, что пользователь, например, начал чаще смотреть Клипы или читать посты блогеров определённой тематики.

Новая технология способствует более точной сегментации и персонализации, повышая вовлеченность пользователей и увеличивая время, проводимое в приложении и позволяет площадке более точечно коммуницировать со своими пользователями и выбирать для этого наиболее релевантный повод и тайминг.

Обновлённая ретеншн-система появилась в Одноклассниках в третьем квартале 2024 года и наряду с другими продуктовыми обновлениями повлияла на рост MAU (месячная активная аудитория пользователей) социальной сети впервые за пять лет. По итогам 2024 года этот показатель увеличился до 36,2 млн. За год аудитория соцсети выросла на 1,2 млн пользователей.

45
2 мин.
Одноклассники перезапустили раздел «Обсуждения»

Одноклассники перезапустили раздел «Обсуждения». В нем появились вкладки с самыми популярными на текущий момент дискуссиями в соцсети, а также серии лучших публикаций, индивидуально подобранные для каждого пользователя на основе его интересов.

В разделе «Обсуждения» появилась новая вкладка «Популярное». ML-модели ОК анализируют поведение каждого пользователя и его предпочтения в контенте, и рекомендуют ему наиболее подходящие темы для обсуждения. Человек может перейти к посту и прокомментировать его, выразить эмоцию или репостнуть к себе на страницу. Вкладка «Популярные» включает актуальные посты с наибольшим количеством комментариев за несколько дней. Также в нее вошел виджет «Горячая тема», которая будет состоять из самых обсуждаемых дискуссий за день. Таким образом, пользователи могут быть в курсе наиболее популярных новостей, которые просматривают и обсуждают миллионы людей в ОК.

98
5 мин.