Яндекс в 12 раз увеличил скорость обнаружения и блокировки мошенников в рекламе благодаря искусственному интеллекту

Иногда, пытаясь обойти правила, недобросовестные рекламодатели уже после прохождения модерации меняют контент на сайте на фишинговый. Для проверки таких объявлений Яндекс использует в том числе технологии искусственного интеллекта - алгоритмы постоянно проверяют, не изменилась ли тематика сайта и контента, на которые ведут объявления. Для решения этой задачи сегодня применяется несколько десятков различных  ML-моделей, которые постоянно дообучаются, чтобы повышать качество поиска и скорость блокировки аккаунтов мошенников. По итогам 2024 года она выросла в 12 раз.

Алексей Гончаров, заместитель коммерческого директора Яндекса по качеству: «Ежедневно на модерацию поступает более 230 миллионов рекламных объявлений. По статистике, на миллион хороших приходится примерно сто баннеров мошенников. Отследить злоумышленников при таком объёме — непростая задача: мошенники придумывают новые способы обхода модерации. Поэтому мы постоянно развиваем технологии, чтобы рекламная выдача была безопасной и соответствовала запросам пользователя. Мы используем десятки различных эвристик, чтобы находить новые виды мошенничества, а также задействуем YandexGPT для поиска подозрительных текстов, анализируем различные данные об объявлениях, чтобы как можно быстрее находить и блокировать мошенников».

Значительную часть объявлений Яндекс заблокировал по причине фишинга. Одним из самых массовых форматов фишинга стали попытки кражи данных пользователей через QR-код. Всего за подобные нарушения было заблокировано более трех тысяч рекламных доменов.

Алгоритмы проверяют и площадки рекламной сети. В прошлом году за нарушение правил Яндекс заблокировал и не допустил к участию в рекламной сети более 20 тысяч сайтов, четырех тысяч приложений и около 29 тысяч телеграм-каналов.