ОК запустили нейросеть для борьбы с агрессивными комментариями

5 марта 2022

2 мин. чтения

Социальная сеть Одноклассники запустила технологию на базе нейросетей для борьбы с агрессивными высказываниями и разжиганием розни в публичных комментариях. Нейросеть будет оценивать тексты и изображения в комментариях на наличие токсичного содержания, после чего выдавать оценку модераторам для проверки. Запуск технологии стал очередным шагом в развитии комфортной среды для общения в ОК.

Новый алгоритм позволит создать уважительную среду для общения внутри социальной сети. Нейросеть будет автоматически анализировать уровень агрессии в комментариях, далее оценка от алгоритма будет доступна модераторам соцсети. Технология уже работает на всех платформах. В десктопной версии соцсети пользователи, которые получили временный запрет, при попытке оставить комментарий увидят сообщение с объяснениями и ссылкой на подробности о работе нового алгоритма. В ближайшее время эта функция появится и в приложениях на iOS и Android.

Все призывы к разжиганию ненависти и ксенофобии по отношению к любой нации или другой группе людей, в том числе с использованием нецензурной лексики, а также угрозы другим пользователям будут блокироваться. При анализе изображений в комментариях алгоритм определит наличие шокирующего содержания и актов насилия, которые после проверки тоже будут удалены. Технология запущена в рамках глобального построения безопасности VK.

Пользователи, которые нарушают правила соцсети и выражают свое мнение враждебно по отношению к другим, получат временный запрет на комментирование любого контента в ОК. При попытке оставить комментарий соцсеть покажет уведомление и ссылку на правила поведения. Кроме того, авторы комментариев могут получить временный «отдых» от дискуссий, если на их высказывания поступает много жалоб и система определила их как токсичные и агрессивные.

ОК заботятся о безопасности пользователей: в феврале 2022 года соцсеть запустила Центр безопасности сообщений, в котором собраны правила безопасного и корректного общения в соцсети, а также способы защиты от нежелательного контента в личных переписках.

Материалы по теме

«Хобби Фест» на ВДНХ: делимся фотографиям

21-22 декабря на ВНДХ прошёл «Хобби Фест» — главное событие года, посвящённое увлечениям. Более 3,5 тысячи гостей посетили четыре тематические зоны мероприятия, посвящённые саду, рукоделию, дому и питомцам.

Десятки популярных авторов ОК провели на фестивале лекции, мастер-классы, интерактивные игры и DIY-активности: от мыловарения и создания когтеточек до плетения обвеса на сумку. Взрослые и дети на тематических площадках изготавливали украшения из бисера и ёлочные игрушки, учились вязать без крючка и создавать мини-огород на подоконнике, а также изучали, как правильно ухаживать за питомцем на примере пумы Месси.

Как это было? Смотрите фотографии в альбомах:

Новости

4 мин.

ОК запустили первую брендированную рубрику в «Увлечениях»

Одноклассники вместе с платформой о еде Food.ru запустили первую брендированную подрубрику сервисе«Увлечения» в тематике «Кулинария». В неё вошли более 1700 публикаций с проверенными рецептами блюд от экспертов Food.ru:

завтраки и основные блюда,
выпечка и десерты,
супы и соусы,
блюда без мяса, постные рецепты и многое другое.

Запуск собственного раздела Food.ru в — это первый пример использования партнёрского формата в «Увлечениях».

Новости

3 мин.

ОК запустили обучающий гайд по продвижению для брендов и организаций

ОК разработали образовательный сайт-инструкцию для брендов, организаций и SMM-специалистов. На сайте опубликован гайд «Как вести группу в Одноклассниках» — он поможет освоить инструменты платформы, улучшить качество контента и увеличить охваты.

Образовательный сайт отвечает на самые популярные вопросы, с которыми сталкиваются администраторы групп:

Гайд дополняет чек-лист «Как правильно вести группу в ОК?». Он поможет проверить, как SMM-менеджеры использует возможности и инструменты платформы. Также команда ОК добавила ссылки на успешные истории продвижения на страницу «Проекты в ОК» — для тех, кто хочет создавать креативные спецпроекты.

Изучите гайд «Как вести группу в ОК», чтобы улучшить качество вашего контента, увеличить охваты и открыть новые возможности для развития бренда или организации.

Новости

5 мин.