ВКонтакте тестирует нейросеть для борьбы с языком вражды
ВКонтакте работает над искусственным интеллектом для автоматического распознавания материалов с хейтспичем — враждебными высказываниями. Технология призвана ускорить время обработки жалоб и помочь пользователям реже сталкиваться с проявлениями нетерпимости.
Новая нейросеть поможет быстрее находить материалы с враждебными высказываниями, а также публикации, которые провоцируют аудиторию проявлять агрессию. Нейросеть учится определять самые разные категории оскорблений и угроз. Среди них — проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний.
Чтобы усилить модерацию по теме языка ненависти и обучить искусственный интеллект, ВКонтакте добавила новую категорию жалоб — «Враждебные высказывания». Пользователь может выбрать её, если нажмёт кнопку «Пожаловаться» у оскорбительной публикации. После этого материал попадёт на рассмотрение к модераторам. Эта категория позволит точнее откалибровать уже существующие инструменты и собрать датасет для новых решений на основе нейросетей. При этом команды Модерации и Поддержки не только реагируют на жалобы, но и проводят проактивный внутренний мониторинг — в частности, с помощью механизмов автоматического поиска, технологии цифровых отпечатков и нейронных сетей.
Иван Корнеев, руководитель команды модерации ВКонтакте:
«Мы разделяем позицию наших пользователей и партнёров касательно языка вражды и прославления насилия. Модераторы ВКонтакте ежедневно обрабатывают огромный объём контента, в том числе с использованием искусственного интеллекта — большинство опасных материалов удаляются ещё до того, как их кто-то увидит. Если же вы заметили оскорбительную публикацию, пожалуйтесь на неё. С проявлениями нетерпимости эффективнее бороться вместе — и мы призываем пользователей присоединяться к нам в этой борьбе».
За первую половину 2020 года на платформе было удалено 520 тысяч единиц контента по теме разжигания вражды и ненависти, а также заблокировано 1340 профилей и 2470 сообществ, распространяющих враждебные высказывания.
20.08.2020
Еще статьи по теме
- Авторам ВКонтакте стало проще маркировать рекламу и создавать отчетность по кампаниям - 15.04.2024
- Нейросети, VR, AR в коммуникациях - всем ли бежать за трендами? - 30.10.2023
- Артемий Лебедев назначен директором по дизайну ВКонтакте - 10.10.2023
- Главный русскоязычный музыкальный телеканал RU.TV набрал миллион подписчиков в социальной сети Вконтакте - 17.09.2023
- Авторы ВКонтакте смогут маркировать рекламу с помощью инструментов соцсети - 04.09.2023
- "Акселератор сообществ" заработал для авторов ВКонтакте - 17.08.2023
- LOOKY и Иви превратят пользователей в оборотней с помощью искусственного интеллекта - 31.07.2023
- ВКонтакте провела продажу собственной NFT-коллекции CryptoSpotty - 27.04.2023
- ВКонтакте представляет свою первую NFT-коллекцию - пользователи смогут купить уникального CryptoSpotty за рубли - 18.04.2023
- Лайкам все возрасты покорны - 03.03.2023
- все статьи по теме...
Комментарии
Написать комментарий