Новости

ОК начали автоматически обнаруживать и скрывать эротические изображения в соцсети 

27 июня 2024
3 мин. чтения
ОК начали автоматически обнаруживать и скрывать эротические изображения в соцсети 

Одноклассники теперь автоматически обнаруживают и размывают в ленте и комментариях к публикациям в соцсети изображения и GIF-файлы, которые пользователи считают эротическими. Обновление стало ещё одним шагом к поддержанию на платформе комфортной среды. 

Если пользователь захочет посмотреть скрытое изображение или GIF-файл, он может кликнуть по нему либо проигнорировать и пропустить. Чтобы лучше выявлять и ограничивать такой контент, ОК провели исследование среди пользователей и выяснили, что именно они считают эротикой, которую не хотят видеть. Людям предложили оценить, насколько изображения откровенны и неприемлемы, и выразить своё желание или нежелание сталкиваться с ними в соцсети. 

На примерах, которые респонденты посчитали нежелательным, инженеры ОК обучили модели машинного обучения, чтобы те автоматически обнаруживали и размывали такой контент. Всего ОК использовали более 6 млн файлов и разработали две ML-модели. Одна непосредственно сканирует картинку и определяет визуальное содержимое, другая относит контент к определённому типу, за счёт чего он или размывается, или остаётся в первоначальном виде.

Помимо скрываемого контента ОК по результатам исследования определили, какие категории изображений можно показывать пользователям соцсети. Например, обновление не затрагивает изобразительное искусство, фотографии спортсменов и пляжные снимки пользователей (классическая живопись с Венерой или статуи с Аполлоном, пловцы, ватерполисты, легкоатлеты и другие). При этом пользователи всё так же могут пожаловаться на нежелательный и неприемлемый контент любой категории в интерфейсе соцсети или через обращение в службу поддержки. 

Александр Москвичев
директор по продукту ОК

«Создание комфортной среды для взаимодействия пользователей – один из главных приоритетов ОК. За последние два года мы реализовали десятки улучшений в продукте, которые позволяют людям чаще общаться, смотреть видео, комментировать и знакомиться друг с другом на площадке, не опасаясь грубости, неприемлемого контента или навязчивых знакомств. Теперь благодаря помощи наших пользователей и технологиям люди в ОК будут видеть ещё меньше нежелательного контента».

ОК активно внедряют новые технологии, чтобы создавать комфортную среду для увлечений и общения. Ранее соцсеть начала автоматически обнаруживать на платформе нецензурные слова и скрывать их: вместо ненормативной лексики пользователи видят звёздочки. Также ОК используют модерацию на базе машинного обучения, чтобы ограничивать другой нежелательный и неприемлемый контент. Например, блокируют то, что предназначено для аудитории 18+, и размывают фотографии со сценами насилия. В прошлом году соцсеть также запустила ML-модель, ограничивающую навязчивые знакомства и общение с нежелательными собеседниками на площадке.

2
1
1
1
2

Материалы по теме

Одноклассники перезапустили раздел «Обсуждения»

Одноклассники перезапустили раздел «Обсуждения». В нем появились вкладки с самыми популярными на текущий момент дискуссиями в соцсети, а также серии лучших публикаций, индивидуально подобранные для каждого пользователя на основе его интересов.

В разделе «Обсуждения» появилась новая вкладка «Популярное». ML-модели ОК анализируют поведение каждого пользователя и его предпочтения в контенте, и рекомендуют ему наиболее подходящие темы для обсуждения. Человек может перейти к посту и прокомментировать его, выразить эмоцию или репостнуть к себе на страницу. Вкладка «Популярные» включает актуальные посты с наибольшим количеством комментариев за несколько дней. Также в нее вошел виджет «Горячая тема», которая будет состоять из самых обсуждаемых дискуссий за день. Таким образом, пользователи могут быть в курсе наиболее популярных новостей, которые просматривают и обсуждают миллионы людей в ОК.

48
5 мин.
Две трети россиян сталкивались с попытками мошенников украсть их аккаунты в сети

Социальная сеть Одноклассники и сервис Работа.ру провели исследование и выяснили, как часто россияне сталкиваются с мошенниками в интернете и назвали наиболее частые причины взлома аккаунтов. В исследовании приняли участие более 3 500 респондентов из всех регионов России.

Согласно опросу, 66% опрошенных россиян в 2024 году сталкивались с попытками мошенников украсть их аккаунты на различных сайтах в Сети. Больше всего атак приходится на социальные сети (62%). На втором месте – банковские приложения, на третьем — мессенджеры. Также злоумышленники часто пытаются украсть данные с личной и рабочей почты.

 

Большинство россиян проводят зимний досуг за просмотром фильмов, сериалов и шоу — исследование

Социальная сеть «Одноклассники», финтех-компания ЮMoney и платежный сервис ЮKassa провели опрос среди 1500 пользователей, чтобы выяснить, как они проводят свой досуг зимой, сколько тратят на развлечения и какой контент чаще всего смотрят в соцсетях.

Согласно данным опроса, более половины респондентов (52%) любят проводить зимние выходные в домашней обстановке, 30% из них предпочитают сидеть в соцсетях. По данным ОК, с начала зимы в сервисе «Увлечения» наибольшим спросом пользуются творческие мастер-классы о том, как рисовать зимние пейзажи и делать своими руками украшения. Также пользователям интересны идеи горячих блюд к столу и лайфхаки о том, как грамотно ухаживать за садом во время теплой зимы.

По данным исследования, еще 27% россиян предпочитают в зимние выходные гулять по городу и только четверть опрошенных выбирают зимние развлечения (коньки, лыжи, горки).