Новости

ОК начали автоматически обнаруживать и скрывать эротические изображения в соцсети 

27 июня 2024
3 мин. чтения
ОК начали автоматически обнаруживать и скрывать эротические изображения в соцсети 

Одноклассники теперь автоматически обнаруживают и размывают в ленте и комментариях к публикациям в соцсети изображения и GIF-файлы, которые пользователи считают эротическими. Обновление стало ещё одним шагом к поддержанию на платформе комфортной среды. 

Если пользователь захочет посмотреть скрытое изображение или GIF-файл, он может кликнуть по нему либо проигнорировать и пропустить. Чтобы лучше выявлять и ограничивать такой контент, ОК провели исследование среди пользователей и выяснили, что именно они считают эротикой, которую не хотят видеть. Людям предложили оценить, насколько изображения откровенны и неприемлемы, и выразить своё желание или нежелание сталкиваться с ними в соцсети. 

На примерах, которые респонденты посчитали нежелательным, инженеры ОК обучили модели машинного обучения, чтобы те автоматически обнаруживали и размывали такой контент. Всего ОК использовали более 6 млн файлов и разработали две ML-модели. Одна непосредственно сканирует картинку и определяет визуальное содержимое, другая относит контент к определённому типу, за счёт чего он или размывается, или остаётся в первоначальном виде.

Помимо скрываемого контента ОК по результатам исследования определили, какие категории изображений можно показывать пользователям соцсети. Например, обновление не затрагивает изобразительное искусство, фотографии спортсменов и пляжные снимки пользователей (классическая живопись с Венерой или статуи с Аполлоном, пловцы, ватерполисты, легкоатлеты и другие). При этом пользователи всё так же могут пожаловаться на нежелательный и неприемлемый контент любой категории в интерфейсе соцсети или через обращение в службу поддержки. 

Александр Москвичев
директор по продукту ОК

«Создание комфортной среды для взаимодействия пользователей – один из главных приоритетов ОК. За последние два года мы реализовали десятки улучшений в продукте, которые позволяют людям чаще общаться, смотреть видео, комментировать и знакомиться друг с другом на площадке, не опасаясь грубости, неприемлемого контента или навязчивых знакомств. Теперь благодаря помощи наших пользователей и технологиям люди в ОК будут видеть ещё меньше нежелательного контента».

ОК активно внедряют новые технологии, чтобы создавать комфортную среду для увлечений и общения. Ранее соцсеть начала автоматически обнаруживать на платформе нецензурные слова и скрывать их: вместо ненормативной лексики пользователи видят звёздочки. Также ОК используют модерацию на базе машинного обучения, чтобы ограничивать другой нежелательный и неприемлемый контент. Например, блокируют то, что предназначено для аудитории 18+, и размывают фотографии со сценами насилия. В прошлом году соцсеть также запустила ML-модель, ограничивающую навязчивые знакомства и общение с нежелательными собеседниками на площадке.

1
0
0
0
0

Материалы по теме

Россияне рассказали, с кем проводят летний отпуск

Одноклассники и ЮMoney провели опрос* среди российских пользователей и узнали, как те проводят или планируют провести летний отпуск. Аналитики также выяснили, как изменился интерес аудитории к теме путешествий за последние несколько месяцев и какие туристические направления пользуются наибольшим спросом.

Согласно опросу, большинство российских пользователей (43%) собираются в летний отпуск со своими родственниками, 13% – с друзьями, столько же – с романтическим партнёром. По 11% респондентов предпочитают отдыхать в одиночку и с семьями своих друзей, остальные любят проводить время в путешествиях с новыми людьми и ездить в отпуск со своими питомцами.

Половина респондентов (50%) предпочитают спокойный и оздоровительный отдых: загорать на пляже, проводить время в санатории или доме отдыха, ездить в ретриты. На втором месте по популярности – познавательный отпуск с посещением музеев, экскурсиями по городам и гастрономическим местам (23%). На третьей позиции – активный и экстремальный отдых, например походы и сёрфинг (20%).

Половина опрошенных (50%) в ближайшие месяцы будут отдыхать в России. Из них 22% поедут в Краснодарский край, 7% – в Москву, 6% – в Санкт-Петербург, 4% – на Кавказ, 3% – на Алтай, по 2% – в Карелию и на Дальний Восток. В Турцию отправятся 16% респондентов, 4% поедут в Беларусь, по 3% – в Абхазию, ОАЭ, в Европу и на Кубу.

По данным аналитиков ОК**, в топ-10 туристических направлений среди российских пользователей входят Москва, Турция, Краснодарский край, Санкт-Петербург, Казахстан, Алтай, Египет, Беларусь, Таиланд и Куба. В сервисе «Увлечения» самыми популярными категориями в разделе «Отдых и туризм» стали «Спокойный отдых», «Путешествия по России», «Путешествия по СНГ», «Культура и искусство», «Загородный отдых и лес».

Опрос ОК и ЮMoney показал, что почти треть респондентов (32%) в последний раз были в отпуске больше двух лет назад, чуть меньше (31%) – в прошлом году. Что касается продолжительности отдыха, 30% опрошенных планируют провести в отпуске две недели, 25% – неделю, 18% – целый месяц, 12% – не более пяти дней, 9% – всё лето. На вопрос о бюджете 24% ответили, что хотят уложиться в 50 тыс. рублей, 15% готовы потратить в отпуске до 100 тыс., 14% – до 150 тыс., 11% согласны отдать полмиллиона, а 10% – до 70 тыс. рублей. Наиболее популярные статьи расходов во время летнего отпуска: развлечения, жильё, питание, билеты и тур.

* Опрос проводился на сайте ЮMoney в июне 2024 года, в нём приняли участие более тысячи пользователей на территории РФ.

** Аналитики ОК изучили количество публикаций пользователей, групп и блогеров в соцсети с марта по 15 июня 2024 года.

ОК начали автоматически обнаруживать и скрывать эротические изображения в соцсети 

Одноклассники теперь автоматически обнаруживают и размывают в ленте и комментариях к публикациям в соцсети изображения и GIF-файлы, которые пользователи считают эротическими. Обновление стало ещё одним шагом к поддержанию на платформе комфортной среды. 

Если пользователь захочет посмотреть скрытое изображение или GIF-файл, он может кликнуть по нему либо проигнорировать и пропустить. Чтобы лучше выявлять и ограничивать такой контент, ОК провели исследование среди пользователей и выяснили, что именно они считают эротикой, которую не хотят видеть. Людям предложили оценить, насколько изображения откровенны и неприемлемы, и выразить своё желание или нежелание сталкиваться с ними в соцсети. 

На примерах, которые респонденты посчитали нежелательным, инженеры ОК обучили модели машинного обучения, чтобы те автоматически обнаруживали и размывали такой контент. Всего ОК использовали более 6 млн файлов и разработали две ML-модели. Одна непосредственно сканирует картинку и определяет визуальное содержимое, другая относит контент к определённому типу, за счёт чего он или размывается, или остаётся в первоначальном виде.

Помимо скрываемого контента ОК по результатам исследования определили, какие категории изображений можно показывать пользователям соцсети. Например, обновление не затрагивает изобразительное искусство, фотографии спортсменов и пляжные снимки пользователей (классическая живопись с Венерой или статуи с Аполлоном, пловцы, ватерполисты, легкоатлеты и другие). При этом пользователи всё так же могут пожаловаться на нежелательный и неприемлемый контент любой категории в интерфейсе соцсети или через обращение в службу поддержки. 

ОК активно внедряют новые технологии, чтобы создавать комфортную среду для увлечений и общения. Ранее соцсеть начала автоматически обнаруживать на платформе нецензурные слова и скрывать их: вместо ненормативной лексики пользователи видят звёздочки. Также ОК используют модерацию на базе машинного обучения, чтобы ограничивать другой нежелательный и неприемлемый контент. Например, блокируют то, что предназначено для аудитории 18+, и размывают фотографии со сценами насилия. В прошлом году соцсеть также запустила ML-модель, ограничивающую навязчивые знакомства и общение с нежелательными собеседниками на площадке.

33
4 мин.
Одноклассники увеличили объем оригинального контента в 1,5 раза в 2024 году

Одноклассники увеличивают количество качественного контента про увлечения на платформе: к концу лета ОК выпустят в 1,5 раза больше эпизодов собственных шоу по сравнению с аналогичным периодом прошлого года.

Среди премьер летнего сезона в этом году – хобби-шоу «На рыбалку с женой», «Удачи на даче» и «Говорим спорту ОК». «На рыбалку с женой» станет первым шоу про рыбалку не только для мужчин, но и для женщин, где каждый выпуск три заядлых рыбака за короткий срок должны будут обучить навыкам рыбалки своих жен, которые все это не умеют и не любят. Ведущий проекта – комик и шоумен Дмитрий Колчин. В шоу «Удачи на даче» в каждом выпуске актриса и ведущая Екатерина Скулкина вместе с дизайнерами, мастерами, садовниками и ремонтной бригадой будут преображать дачи зрителей за ограниченный и доступный бюджет. «Говорим спорту ОК» – это своеобразный 28-дневный челлендж, каждый день в рамках выпуска шоу пользователям ОК доступна новая тренировка на проработку разных групп мышц от профессиональных тренеров.

Помимо новых шоу, летом 2024 года в ОК выходит второй сезон кулинарного шоу «Готовим на даче» с шеф-поваром Александром Бельковичем, где он рассказывает пользователям соцсети о простых блюдах, которые этим летом сумеет повторить каждый.

Проекты, которые ОК выпустили в 2023 году, собрали на текущий момент около 1 млрд просмотров на платформе. ОК выбирают тематики с учетом интересов и потребностей как текущей, так и потенциальной аудитории. Основные интересы пользователей соцсети – кулинария, дизайн, ремонт, садоводство и hand-made. Также популярны тематики об авто, путешествиях, моде, питомцах, рыбалке, юморе, кино и сериалах, семье и отношениях.

Эксклюзивные шоу по этим тематикам востребованы в ОК: их смотрит 40% ежемесячной аудитории соцсети. В 2023 году у половины аудитории (те, кто активно смотрят видеоконтент) время, проведенное за просмотром шоу и видеоконтента от блогеров, выросло на 7%.

87
5 мин.