Новости

ОК запустили нейросеть для борьбы с агрессивными комментариями

5 марта 2022
2 мин. чтения
ОК запустили нейросеть для борьбы с агрессивными комментариями

Социальная сеть Одноклассники запустила технологию на базе нейросетей для борьбы с агрессивными высказываниями и разжиганием розни в публичных комментариях. Нейросеть будет оценивать тексты и изображения в комментариях на наличие токсичного содержания, после чего выдавать оценку модераторам для проверки. Запуск технологии стал очередным шагом в развитии комфортной среды для общения в ОК.

Новый алгоритм позволит создать уважительную среду для общения внутри социальной сети. Нейросеть будет автоматически анализировать уровень агрессии в комментариях, далее оценка от алгоритма будет доступна модераторам соцсети. Технология уже работает на всех платформах. В десктопной версии соцсети пользователи, которые получили временный запрет, при попытке оставить комментарий увидят сообщение с объяснениями и ссылкой на подробности о работе нового алгоритма. В ближайшее время эта функция появится и в приложениях на iOS и Android.

Все призывы к разжиганию ненависти и ксенофобии по отношению к любой нации или другой группе людей, в том числе с использованием нецензурной лексики, а также угрозы другим пользователям будут блокироваться. При анализе изображений в комментариях алгоритм определит наличие шокирующего содержания и актов насилия, которые после проверки тоже будут удалены. Технология запущена в рамках глобального построения безопасности VK.

Пользователи, которые нарушают правила соцсети и выражают свое мнение враждебно по отношению к другим, получат временный запрет на комментирование любого контента в ОК. При попытке оставить комментарий соцсеть покажет уведомление и ссылку на правила поведения. Кроме того, авторы комментариев могут получить временный «отдых» от дискуссий, если на их высказывания поступает много жалоб и система определила их как токсичные и агрессивные.

ОК заботятся о безопасности пользователей: в феврале 2022 года соцсеть запустила Центр безопасности сообщений, в котором собраны правила безопасного и корректного общения в соцсети, а также способы защиты от нежелательного контента в личных переписках.

47
6
4
3
12

Материалы по теме

Доходы разработчиков игр от рекламы в ОК выросли на 62%

Одноклассники подводят итоги работы игровой платформы соцсети за первое полугодие 2024 года. С января по июнь разработчики получили от ОК 1,6 млрд рублей. Эта сумма включает в себя доходы от рекламы и внутриигровых покупок, и на 10% больше, чем за аналогичный период 2023 года. 

Главный драйвер роста в 2024 году — развитие рекламы внутри игровой платформы: доходы ОК и самих разработчиков от рекламы выросли за 6 месяцев на 62% по сравнению с аналогичным периодом прошлого года. 

Ключевой причиной роста рекламных доходов является развитие формата sticky-баннеров (рекламное объявление в игре, расположение которого может настроить создатель) на всех платформах. Для интеграции формата в игру разработчикам достаточно реализовать подбор и показ рекламы, используя SDK, выбрать место для показа баннера — все остальные задачи решаются платформой игр. Помимо этого, ОК провели ряд открытых тестов, чтобы определить, как пользователи воспринимают рекламу. Тесты показали, что реклама в играх в ОК не снижает доходы от внутриигровых покупок. Благодаря этому разработчики изменили подход к программам монетизации и стали чаще их задействовать. 

Соцсеть также сохраняет и наращивает доходы разработчиков от внутриигровых покупок пользователей по системе revenue share. Для этого в 2023 году ОК постепенно перераспределяли  аудиторию, продвигали игры и привлекали новых разработчиков. Позитивно также сказалось то, что аудитория органически перетекала с десктопа на мобильную платформу.

В топ-5 категорий игр по количеству проведенных часов входят «три в ряд», казуальные игры, «игры про фермерство», «настольные игры» (шахматы, нарды и пр.), приключения. Сейчас 42% пользователей, которые заходят в ОК с десктопной версии, играют хотя бы раз в день, но больше всего растет наиболее заинтересованная аудитория — те, кто ежедневно увеличивают время, которое они проводят на игровой платформе.

Одноклассники впервые разрешат пользователям полностью отказаться от получения подарков

Одноклассники позволят пользователям полностью отказаться от получения виртуальных подарков или ограничить круг дарящих даже среди друзей. Обновление призвано уменьшить количество запросов на нежелательное для ряда пользователей общение и улучшить взаимодействие между людьми в ОК.

Новая настройка позволяет выбирать, от кого человек  хочет получать подарки в соцсети. Можно поставить полный запрет на получение подарков от всех пользователей, только незнакомых или своих друзей, а также сделать точечные запреты, ограничив в этой активности определенных людей. В этом случае при попытке отправить виртуальный подарок будет появляться сообщение «Этому пользователю нельзя отправить подарок». Также в ОК есть возможность автоматически скрывать в ленте полученные и отправленные подарки.  

Благодаря обновлению пользователи ОК смогут настроить свой комфортный режим использования этого сервиса, а число жалоб на нежелательное общение и отклонений отправленных подарков снизится. Новые возможности в течение нескольких месяцев тестировались на разных группах пользователей ОК. Суммарно число отклонений подарков и количество жалоб пользователей на навязчивость уменьшилось на 20% за сравнимые периоды времени. Это способствует росту активности в других сервисах соцсети из-за исчезновения раздражающих факторов.

Сервис виртуальных подарков – один из самых массовых в ОК. Ежедневно миллионы пользователей отправляют подарки к праздникам или просто без повода. Если подарок принят, он отображается на фотографии пользователя, а также в его ленте. Подарками в ОК можно обмениваться бесплатно или же приобретать их за внутреннюю валюту соцсети. ОК активно работают над тем, чтобы сервис не только оставался популярным и увеличивал свою аудиторию, но и был комфортным для всех пользователей – в том числе тех, кто хотел бы ограничить нежелательную активность на своей странице в соцсети.

147
6 мин.
ОК эксклюзивно покажут фестиваль искусств «Славянский базар в Витебске»

Одноклассники проведут серию эксклюзивных трансляций международного ежегодного фестиваля искусств «Славянский базар в Витебске». Прямые эфиры 33-го фестиваля пройдут в ОК с 9 по 15 июля.

Пользователи ОК смогут посмотреть торжественное открытие вместе с гала-концертом и церемонией закрытия в официальной группе «Славянский базар в Витебске». Им также будут доступны серии эфиров с Международного конкурса исполнителей эстрадной песни, Международного детского музыкального конкурса, жеребьевки и пресс-конференций. В этом году в ОК пройдет ряд интервью в рамках программы «Звёздный час», где артисты фестиваля в прямом эфире пообщаются с прессой и ответят на популярные вопросы.

Среди артистов фестиваля в 2024 году: Григорий Лепс, Дима Билан, Ани Лорак, Этери Бериашвили, Мариам Мерабова, Зара, Михаил Турецкий и арт-группа «Хор Турецкого», Любовь Успенская и многие другие.

Ежегодно трансляции «Славянского базара в Витебске» в ОК смотрят не менее 10 млн раз. В 2023 году наибольшей популярностью фестиваль пользовался среди зрителей из Московской, Новосибирской и Свердловской области, а также у жителей Краснодарского края.

Одноклассники регулярно поддерживают культурные мероприятия. Например, в апреле 2024 года в соцсети прошли эксклюзивные прямые эфиры Турнира претендентов по шахматам. А в мае ОК анонсировали на площадке премьеру спектакля Игоря Бутмана и Константина Хабенского в рамках Московского джазового фестиваля.

243
4 мин.