Новости

ОК запустили нейросеть для борьбы с агрессивными комментариями

5 марта 2022
2 мин. чтения
ОК запустили нейросеть для борьбы с агрессивными комментариями

Социальная сеть Одноклассники запустила технологию на базе нейросетей для борьбы с агрессивными высказываниями и разжиганием розни в публичных комментариях. Нейросеть будет оценивать тексты и изображения в комментариях на наличие токсичного содержания, после чего выдавать оценку модераторам для проверки. Запуск технологии стал очередным шагом в развитии комфортной среды для общения в ОК.

Новый алгоритм позволит создать уважительную среду для общения внутри социальной сети. Нейросеть будет автоматически анализировать уровень агрессии в комментариях, далее оценка от алгоритма будет доступна модераторам соцсети. Технология уже работает на всех платформах. В десктопной версии соцсети пользователи, которые получили временный запрет, при попытке оставить комментарий увидят сообщение с объяснениями и ссылкой на подробности о работе нового алгоритма. В ближайшее время эта функция появится и в приложениях на iOS и Android.

Все призывы к разжиганию ненависти и ксенофобии по отношению к любой нации или другой группе людей, в том числе с использованием нецензурной лексики, а также угрозы другим пользователям будут блокироваться. При анализе изображений в комментариях алгоритм определит наличие шокирующего содержания и актов насилия, которые после проверки тоже будут удалены. Технология запущена в рамках глобального построения безопасности VK.

Пользователи, которые нарушают правила соцсети и выражают свое мнение враждебно по отношению к другим, получат временный запрет на комментирование любого контента в ОК. При попытке оставить комментарий соцсеть покажет уведомление и ссылку на правила поведения. Кроме того, авторы комментариев могут получить временный «отдых» от дискуссий, если на их высказывания поступает много жалоб и система определила их как токсичные и агрессивные.

ОК заботятся о безопасности пользователей: в феврале 2022 года соцсеть запустила Центр безопасности сообщений, в котором собраны правила безопасного и корректного общения в соцсети, а также способы защиты от нежелательного контента в личных переписках.

56
7
4
3
12

Материалы по теме

Веб-версия ОК стала доступной для незрячих пользователей

Веб-версия Одноклассников теперь адаптирована для незрячих пользователей. При участии Группы цифровой доступности VK сервис успешно прошёл внешнюю сертификацию.

Теперь веб-версия ОК поддерживает работу со специальными программами экранного доступа, или скринридерами. Они воспроизводят содержимое экрана, за счёт чего незрячие люди воспринимают интерфейс и контент внутри соцсети на слух. Большая часть элементов в веб-версии соцсети получила подписи на всех языках, доступных в ОК. С помощью программы-скринридера можно, например, читать ленту, ставить реакции, обмениваться личными сообщениями, комментировать публикации.

Чтобы веб-версия соцсети стала доступной для незрячих людей и успешно прошла внешнюю сертификацию, команда ОК и Группа цифровой доступности VK провели большую работу по адаптации основных функциональных элементов. Понятные для восприятия на слух подписи получили страницы авторизации и регистрации, профиль пользователя, список друзей, фотографии, лента новостей, группы, подарки, личные сообщения, видео, музыка.

Веб-версия ОК успешно прошла проверку системы добровольной сертификации инклюзивного проекта Everland «Доступность торговых помещений, веб-сайтов и мобильных приложений». Согласно оценке, веб-версия соцсети получила 82 балла невизуальной доступности из 100 возможных. Экспертиза проводилась по следующим критериям: озвучивание ввода, логичное и предсказуемое перемещение курсора программы экранного доступа при навигации с клавиатуры, наличие текстовых меток в элементах интерфейса (кнопки, поля ввода, кликабельные изображения) и другие.

Ранее ОК стали первым доступным для незрячих пользователей приложением соцсети в России. Согласно оценке Everland, приложение ОК получило более 80 баллов невизуальной доступности из 100 возможных. Оно также успешно прошло сертификацию.

5
4 мин.
В ОК стартует Месяц Сахалинской области

Одноклассники совместно с Министерством культуры и архивного дела Сахалинской области запускают с 13 сентября по 13 октября 2024 года проект «Месяц Сахалинской области». Подписчиков группы «Острова культуры» в ОК приглашают к интерактивному знакомству с культурой региона, его традициями и интересными туристическими маршрутами. Проект приурочен ко Дню города Южно-Сахалинска, который отмечается 14 сентября.

В рамках проекта пользователи ОК смогут посмотреть анимированные ролики о легендах, связанных с регионом: о происхождении Сахалина и Курильских островов, появлении скал Три Брата, герое мифов – могучем медведе и другие. Открытки с QR-кодом, ведущим в плейлист с видео, также будут доступны в культурных учреждениях Южно-Сахалинска.

Лонгриды о достопримечательностях региона расскажут о его природных парках и заповедниках и откроют доступ к виртуальным туристическим маршрутам по Южно-Сахалинску и другим знаковым местам. Статьи также будут опубликованы в группе «Острова культуры» в ОК. В Сахалинском областном краеведческом музее появятся зеркала с тематическими надписями. Авторы проекта подготовили видеовизитки учреждений культуры, которые будут презентованы в официальной группе в ОК.

Помимо этого, пользователи соцсети смогут установить тематические рамки на аватары и скачать стикеры с ларгой – дальневосточной, или пёстрой, нерпой. Проверить свои знания о Сахалине и выбрать интересные места для посещения авторы проекта предлагают с помощью онлайн-теста.

Одноклассники регулярно поддерживают культурные проекты и помогают пользователям знакомиться с разными городами и регионами России. Так, в конце прошлого года соцсеть при поддержке фонда «Внимание» запустила третий сезон проекта «Архитектурный перископ», который посвящён разрушающимся памятникам зодчества. В 2023 году на интерактивной карте проекта появились семь новых объектов из самых разных уголков страны. А в апреле этого года в ОК стартовал проект «Месяц Владимирской области», в рамках которого пользователи соцсети также могли узнать больше о регионе.

10
2 мин.
ОК стали скрывать сообщения от незнакомцев в переписке

Одноклассники вынесли запросы на переписку от незнакомцев в самостоятельный раздел и добавили настройку, запрещающую посторонним или вообще всем внутри соцсети добавлять пользователя в групповые чаты. Обновления призваны защитить людей от нежелательного и навязчивого общения и минимизировать вероятность контакта со спамом.

«Запросы» – это новый раздел в личных сообщениях, куда теперь автоматически попадают входящие сообщения от незнакомых пользователей ОК, даже тех, с кем есть общие друзья. В мобильном приложении соцсети на Android и iOS вкладка «Запросы» появилась у всех, независимо от настроек приватности профиля. В мобильной веб-версии и десктопной версии ОК раздел появляется, только когда пользователь получает хотя бы одно сообщение от постороннего человека.

Запросы на переписку не отображаются среди всех диалогов с друзьями и близкими – благодаря этому пользователь не пропустит важные для него сообщения. Если человек хочет ответить незнакомцу, он может принять заявку на переписку и продолжить общение. В окне диалога также будет указано, есть ли с автором сообщения общие друзья. Чтобы совсем не получать сообщения от незнакомых пользователей, в настройках профиля можно перейти в раздел «Сообщения» и выбрать, кто может отправлять личные сообщения – в частности, указать параметр «Друзья».

Ещё одним обновлением в ОК стал запрет на добавление в групповые чаты. Для этого нужно перейти в раздел «Сообщения» в настройках профиля и задать ограничение. Если пользователь не запретил добавлять его в групповые переписки, при появлении нового чата он увидит, кто именно его туда пригласил.

17
4 мин.