Новости компаний

ОК сократили токсичность в комментариях почти вдвое с помощью ИИ

ОК сократили токсичность в комментариях почти вдвое с помощью ИИ

Одноклассники стали временно ограничивать пользователей, которые пишут оскорбительные комментарии. Разработка на основе машинного обучения позволила сократить долю и количество негативных высказываний под постами, фотографиями и видео на 47%.

Одноклассники внедрили модель машинного обучения, позволяющую автоматически выявлять токсичные комментарии и ограничивать их авторов в написании новых на определённый промежуток времени — от одного часа до 24 часов, в зависимости от того, как часто пользователь оставляет негативные высказывания в адрес других.

По данным исследования ОК, негативные посты вызывают злость у более чем 40% пользователей, принявших участие в опросе. ML-модель была обучена на 400 тысячах высказываний, которые можно описать как недружелюбные или провоцирующие негативную дискуссию. Чтобы выяснить, какие комментарии, по мнению пользователей ОК, токсичны и нежелательны, соцсеть провела исследование среди своей аудитории. Запуск ML-модели позволил сократить время обработки жалоб на токсичные посты в три раза и быстрее помочь людям с решением их проблем.

«Мы видим по запросам пользователей, что у нашей аудитории есть потребность в пространстве для безопасного и уважительного общения: треть всех жалоб на платформе связаны с негативными, по мнению пользователей, комментариями, а 80% обращений в службу поддержки по поводу комментариев нацелены против “токсичности”. Мы обучали эту модель больше года и продолжим совершенствовать её в дальнейшем. Вместе с другими продуктовыми решениями, которые мы внедрили за последние два года, ограничение токсичных комментаторов позволит соцсети не только быстрее вернуть на платформу редко посещающих ОК пользователей, но и привлечь новых», — комментирует нововведение Александр Москвичев, директор по продукту ОК.

Ранее в этом году соцсеть начала автоматически обнаруживать на платформе нецензурные слова и скрывать их, а также размывать изображения эротического характера. ОК используют модерацию на базе машинного обучения, чтобы ограничивать другой нежелательный и неприемлемый контент. Например, блокируют то, что предназначено для аудитории 18+, размывают и удаляют фотографии со сценами насилия. В прошлом году соцсеть также запустила ML-модель, ограничивающую навязчивые знакомства и общение с нежелательными собеседниками на площадке.

26.11.2024

на печать


Комментарии

Написать комментарий

 Проверочный код

Новости

Архив

Пн Вт Ср Чт Пт Сб Вс

Рассылка

Подписка на рассылку

E-mail:
 

Также нашу рассылку вы можете получать через

E-mail:  

на правах рекламы

Есть мнение ...

Антитренды наружной рекламыАнтитренды наружной рекламы
Антитрендами наружной рекламы в текущем году стали прямолинейность и чрезмерная перегруженность сообщений. Наружная реклама продолжает показывать рост: число рекламных конструкций за последний год увеличилось более чем на 2 тысячи.
Мария Бар-Бирюкова, Sellty: продажи на маркетплейсах не заменят...Мария Бар-Бирюкова, Sellty: продажи на маркетплейсах не заменят...
В компании Sellty спрогнозировали развитие рынка электронной коммерции в сегменте СМБ на ближайший год. По оценке основателя Sellty Марии Бар-Бирюковой, число собственных интернет-магазинов среднего, малого и микробизнеса продолжит расти и увеличится минимум на 40% до конца 2025 года. Компании будут и дальше развиваться на маркетплейсах, но станут чаще комбинировать несколько каналов продаж. 
Более двух третей представителей сферы рекламы, маркетинга и PR...Более двух третей представителей сферы рекламы, маркетинга и PR...
10 сентября – Всемирный день психического здоровья. Специально к этой дате компания HINT опросила коллег в сфере маркетинга, рекламы и пиара, чтобы понять, как представители этих профессий могут помочь себе и другим поддержать в норме психическое здоровье.
День знаний для маркетологовДень знаний для маркетологов
Как не ошибиться с выбором формата обучения и предстать перед будущим работодателем успешным специалистом. Директор по маркетингу ведущего IT-холдинга Fplus Ирина Васильева рассказала, на что теперь смотрят работодатели при приеме на работу, как нестандартно можно развиваться в профессии и стоит ли действующим маркетологам обучаться на онлайн-курсах.
Почему покупатели бросают корзины в интернет-магазинах - исследованиеПочему покупатели бросают корзины в интернет-магазинах - исследование
Эксперты ЮKassa (сервис для приёма онлайн- и офлайн-платежей финтех-компании ЮMoney) и RetailCRM (решение для управления заказами и клиентскими данными) провели исследование* и выяснили, почему пользователи не завершают покупки в интернет-магазинах. По данным опроса, две трети респондентов хотя бы раз оставляли заказы незавершёнными, чаще всего это электроника и бытовая техника, одежда и товары для ремонта. Вернуться к брошенным корзинам многих мотивируют скидки, кэшбэк и промокоды.

Книги по дизайну

Загрузка ...

Репортажи

Дизайн под грифом "секретно"Дизайн под грифом "секретно"
На чем раньше ездили первые лица страны? Эскизы, редкие фотографии и прототипы уникальных машин.
"Наша индустрия – самодостаточна": ГПМ Радио на конференции..."Наша индустрия – самодостаточна": ГПМ Радио на конференции...
Чего не хватает радио, чтобы увеличить свою долю на рекламном рынке? Аудиопиратство: угроза или возможности для отрасли? Каковы первые результаты общероссийской кампании по продвижению индустриального радиоплеера? Эти и другие вопросы были рассмотрены на конференции «Радио в глобальной медиаконкуренции», спикерами и участниками которой стали эксперты ГПМ Радио.
Форум "Матрица рекламы" о технологиях работы в период...Форум "Матрица рекламы" о технологиях работы в период...
Деловая программа 28-й международной специализированной выставки технологий и услуг для производителей и заказчиков рекламы «Реклама-2021» открылась десятым юбилейным форумом «Матрица рекламы». Его организовали КВК «Империя» и «Экспоцентр».
В ЦДХ прошел День социальной рекламыВ ЦДХ прошел День социальной рекламы (3)
28 марта в Центральном доме художника состоялась 25-ая выставка маркетинговых коммуникаций «Дизайн и реклама NEXT». Одним из самых ярких её событий стал День социальной рекламы, который организовала Ассоциация директоров по коммуникациям и корпоративным медиа России (АКМР) совместно с АНО «Лаборатория социальной рекламы» и оргкомитетом LIME.
Форум "Матрица рекламы": к рекламе в интернете особое...Форум "Матрица рекламы": к рекламе в интернете особое... (2)
На VII Международном форуме «Матрица рекламы», прошедшем в ЦВК «Экспоцентр» в рамках международной выставки  «Реклама-2018», большой интерес у профессиональной аудитории вызвала VI Конференция «Интернет-реклама».

Форум

на правах рекламы

06.12.2024 - 04:54
RSS-каналы Advertology.RuRSS    Читать Advertology.Ru ВКонтактеВКонтакте    Читать Advertology.Ru на Twittertwitter   
Advertology.Ru - все о рекламе, маркетинге и PR
реклама

Вход | Регистрация