Откуда берутся расхождения по ГЕО в данных площадки и верификатора

Расхождения в отчетах по гео между площадкой и верификатором частая история на рынке. Каждый раз она вызывает одни и те же вопросы: кто прав, кому верить и как избежать споров в будущем.

Команда getads — Андрей Григорьев (CEO) и Артем Канев (руководитель отдела интеграции) — вместе с экспертами из Weborama, AdRiver, Admon.ai и Adserving рассказала Adpass о том, насколько точно определяется география, почему возникают расхождения у разных источников и как их расшифровывать.

Почему расхождение вообще возникает

Клиент заказал видеорекламу на город с населением 300 тысяч. Отчет верификатора разошелся с логами площадки на треть при ожидаемых 5%. Чтобы понять, почему так произошло, нужно разобраться, как именно таргетировалась реклама — на конкретный город, на агломерацию или на радиус вокруг точки. А для этого — понять, как IP-адрес оказывается привязан к географии. Без этой информации расхождение невозможно интерпретировать: это может быть ошибкой одной из сторон или технической погрешностью.

Как в CTV определяется география пользователей

Существует несколько вариантов для определения географического местоположения пользователя: IP-адрес, GPS-координаты и геолокация по расположенным рядом Wi-Fi сетям. Остальные способы так или иначе основаны на этих базовых. В Smart TV используется идентификация по IP — это основная технология «первого эшелона». GPS-координаты и данные браузера здесь доступны в исчезающе малом количестве случаев.

У IP-идентификации есть свои ограничения. В ней нет конкретной информации о местоположении пользователя — есть только зашифрованные данные о том, где физически располагаются серверы провайдера. Поэтому операторы CTV-рекламы используют для таргета по гео независимые базы: MaxMind, RIPE, IP2Location. Базы могут отличаться друг от друга — по сроку обновления данных, по радиусу определения гео. Поэтому для точности провайдеры сверяют IP сразу по нескольким.

Кто раздает IP адреса

Интернет-регистратор распределяет между операторами пулы IP адресов и записывает в реестр, кому что отдал. Подробнее о том, как устроен мир IP-адресов рассказали в этой статье. Дальше операторы распределяют выданные им пулы IP адресов по своему усмотрению. Если говорить о стационарном интернете, то оператор делит пул сам между городами, корпоративными клиентами, часть сдает в аренду другим провайдерам.

Единого правила, по какому принципу назначать для конкретных гео IP адреса, не существует. Требований как часто можно это менять и с какой регулярностью сообщать изменения — тоже. Привязка «диапазон = город» есть только внутри инженерной системы оператора. Например, мобильный оператор может сегодня отдать подсеть Петербургу, а через месяц — другому региону, и это решение он ни с кем не согласует.

В мобильных сетях ситуация еще сложнее: здесь гео привязано не к текущему IP, а к внутреннему справочнику оператора. Кроме того, активно используется NAT на уровне регионов и федеральных округов — трафик миллионов абонентов может выходить в интернет через ограниченный пул IP-адресов, принадлежащих совершенно другому региону. Это один из ключевых факторов, влияющих на точность IP-геолокации.

Что такое геобаза

Прямого доступа к инженерной системе операторов нет ни у одного провайдера рекламных услуг. Приходится использовать публичные геобазы — справочники вида «диапазон адресов → страна, регион, город. Крупнейшие международные базы: MaxMind, IP2Location, DB-IP, Digital Element. Некоторые участники рекламного рынка разрабатывают собственные решения.

Источники у всех геобаз одинаковые:

• записи интернет-регистратора о принадлежности определенного реестра IP-адресов;

• геофиды — файлы, где операторы сами публикуют соответствие своих подсетей городам. Международный стандарт такой публикации существует с 2020 года, но заполнять файл операторы не обязаны;

• данные операторов, полученные в частном порядке;

• сетевые замеры, краудсорсинг, пользовательские правки.

Таким образом, справочники геобаз — это результат автоматизированного соединения разношерстных данных. У них свой цикл обновления и свои правила разрешения противоречий.

Расхождения могут возникать из-за разной частоты обновления геобазы. Оператор переназначил подсеть с одного города на другой и никому не сообщил. Геобазы узнают об этом по косвенным признакам: одна через неделю, вторая через три месяца, третья не узнает, пока не пожалуются. Если площадка и верификатор используют разные геобазы то возможно расхождение из-за разной скорости обновления этих баз.

В нашей системе географическое местоположение определяется преимущественно по IP-адресу с использованием дополнительных технических признаков, которые позволяют повысить точность определения. Для сопоставления IP-адресов с регионами и городами используются несколько независимых баз геолокации. Использование нескольких поставщиков позволяет повысить полноту покрытия и точность определения географии пользователей.

Наталья Лифатова

заместитель генерального директора по техническому развитию Weborama

Мы используем собственную географическую базу, данные которой проверяются и дополняются информацией из нескольких независимых источников.

Юрий Назаричев

руководитель аналитики AdRiver

В Adserving мы определяем гео в CTV в первую очередь по IP, используя широкий набор баз с адаптацией под разные среды. Но для нас важно не сколько геобаз подключено, а что мы делаем, когда они расходятся между собой. Мы намеренно не полагаемся на один главный источник, поэтому каждый IP мы проверяем сразу по нескольким геобазам. Если большинство из них сходится в ответе, мы используем этот результат. Если единого ответа нет и результаты по разным базам расходятся, то мы помечаем такой показ как Other. Лучше показать клиенту, что часть трафика не определилась с достаточной точностью, чем выдать недостоверную цифру.

Дмитрий Фролов

операционный директор Adserving

Различия методов и точности определения гео у международных игроков

Геобазы по-разному определяют что такое город. MaxMind считает попаданием точный город или заданный радиус, IP2Location — попадание в радиусе 50 миль. Чем шире радиус, тем выше процент попадания.

По данным MaxMind, каждый пятый показ уходит мимо заказанного города: либо попадает в соседний, либо остается без города — и это базовые показатели технологии на российском трафике, а не ошибка. При этом ни MaxMind, ни IP2Location, ни DB-IP не раскрывают, чем отличается точность для миллионника и для города на триста тысяч.

Бывает и так, что расхождение возникает не из-за ошибки или погрешности, а из-за разной трактовки границ. Показательный случай: база Яндекса (Adfox) и MaxMind разошлись в оценке одного и того же трафика. Одна система отнесла показы к России, другая — к Украине. Причина — открутка на новых территориях. Формально обе базы работали корректно, но использовали разные политические и географические определения. В отчёте это выглядит как расхождение, хотя технической ошибки нет.

На практике вопрос стоит именно так — вот, что об этом говорят участники рынка.

Как правило, попадание в города-миллионники достигает 85–90%. Однако в случае с городами с населением меньше миллиона бенчмарк может варьироваться и достигать менее высоких значений.

Наталья Лифатова

заместитель генерального директора по техническому развитию Weborama

Единого корректного бенчмарка для определения города не существует. Точность зависит в первую очередь от способа доступа в интернет — проводного или мобильного, —, а также от оператора связи, архитектуры его сети, используемых NAT-шлюзов, наличия дополнительных геолокационных сигналов и состава конкретной рекламной кампании. Поэтому результаты могут существенно различаться от кампании к кампании.

Юрий Назаричев

руководитель аналитики AdRiver

Единую усредненную цифру точности мы принципиально не называем: в отрыве от среды, оператора и состава кампании она скорее вводит рекламодателя в заблуждение, чем помогает оценить качество. Для нас честная метрика — разрез по конкретной кампании: где источники сошлись, где возникло расхождение и какая доля трафика осталась в категории Other. Если гео нельзя подтвердить, мы не присваиваем его формально.

Дмитрий Фролов

операционный директор Adserving

Как геобазы рисуют границы города и почему это важно для рекламодателя

В реальности города не имеют форму круга с ровным радиусом, но публично никто не раскрывает, как учитываются реальные границы.

Часть расхождений связана с тем, что геобазы по-разному трактуют понятие города: кто-то использует административную границу, кто-то — агломерацию, кто-то — радиус вокруг точки. Для IP-геолокации форма границ города сама по себе не является определяющим фактором, поскольку IP-адрес относится к сети и территории, а уточнение происходит по дополнительным данным и поведенческим сигналам. Однако разные подходы к определению «что считать городом» создают расхождения в отчетах.

Мы не используем векторные полигоны границ городов: IP-адрес принадлежит сетевому оборудованию, и попытка вписать его в административные рамки технически бессмысленна. Диапазон IP привязывается к агломерации на основе сетевой топологии, а географически обозначается одной точкой с радиусом погрешности. Если необходимо точное попадание в границы, следует задействовать дополнительные источники — GPS/Wi-Fi триангуляцию устройства или официальные ГИС-справочники адресов.

Наталья Лифатова

заместитель генерального директора по техническому развитию Weborama

Мы не определяем границы города по радиусу. В нашем случае задача другая: мы определяем принадлежность IP-адреса к конкретному городу. Для этого используются поведенческие сигналы. Если IP относится к определенной территории и по накопленным данным пользователи этого IP устойчиво связаны с конкретным городом, такой IP может быть отнесен к этому городу. Подход с радиусом применяется скорее в других сценариях — когда есть более точные координаты и нужно определить попадание пользователя в заданную геозону. Для IP-геолокации мы такой принцип не используем.

Юрий Назаричев

руководитель аналитики AdRiver

Главная причина расхождений в том, что на рынке нет единого понимания, где заканчивается город. Города не круглые, а системы определения гео обычно рисуют вокруг центра окружность заданного радиуса. Мы за точку отсчета берем административную границу города: ее легко проверить и объяснить клиенту. Пригороды и города-спутники мы считаем отдельно и помечаем, а не приписываем их к самому городу. Хороший пример — подмосковные Химки. Площадка может засчитать показ в Химках как показ в Москве, потому что считает по агломерации. А верификатор тот же показ в Москву не засчитает, потому что для него граница города — административная. Формально оба участника правы, потому что пользуются разными определениями города. Но в отчёте клиент видит расхождение и читает его как невыполнение KPI. Поэтому мы всегда при сравнении изначально обращаемся к методологии учета гео.

Дмитрий Фролов

операционный директор Adserving

Как игроки рынка повышают точность

На практике ни один игрок не ограничивается одной геобазой. Чем больше источников данных участвует в определении, тем выше вероятность корректного результата.

В getads также используют комбинацию сигналов и фиксируют, какой источник и на каком этапе был задействован — это помогает объяснить клиенту причину расхождений, если они возникают.

Базовую геолокацию рекламного события мы определяем по IP-адресу. Результат проверяем и уточняем с помощью дополнительных сигналов: данных партнёрских площадок, CPA-сверок и агрегированных отчётов на базе Stable ID. В рамках CPA-сверок нам часто известен адрес выдачи заказа; мы используем его как дополнительный калибровочный сигнал. Для оценки географии аудитории на агрегированном уровне мы также используем Mediascope Cross Web. В этом продукте доступны данные о размере города; для такой оценки мы считаем Mediascope надёжным источником.

Сергей Игнатов

CTO Admon.ai

Помимо классического определения геолокации по IP-адресу, в отдельных случаях могут использоваться дополнительные сигналы, полученные в рамках партнерских интеграций. Например, сведения о домашнем регионе пользователя или геолокация, переданная мобильным приложением с разрешения пользователя. Комбинация нескольких источников позволяет повысить точность определения региона и города, особенно в ситуациях, когда данных одного только IP-адреса недостаточно.

Юрий Назаричев

руководитель аналитики AdRiver

Одного IP-адреса для точного гео недостаточно, поэтому поверх него мы добавляем данные партнёров: телеком-операторов, клиентов и другие дата сеты. Но сначала мы проверяем, что сам показ настоящий, и только потом определяем его географию. Гео у нас работает в связке с защитой от фрода: до того как сформировать отчёт, мы отсекаем ботов, трафик из дата-центров, прокси и подозрительные всплески показов. Это напрямую влияет на точность — чаще всего IP-геолокацию ломают именно прокси и технические адреса. Пока мы их не отфильтровали из анализа, работать с гео бессмысленно.

Дмитрий Фролов

операционный директор Adserving

Бенчмарки по расхождениям: первое приближение

На данный момент единого бенчмарка по расхождениям геобаз не существует. Процент часто зависит от типа трафика: на десктопе расхождений меньше, на мобильных сетях больше, поскольку трафик мигрирует между регионами и IP-диапазоны операторов «плавают».

На основе опыта getads мы предложили свое видение уровня расхождений для разных населенных пунктов — и попросили участников рынка их прокомментировать.

Представленные бенчмарки достаточно объективно отражают технические особенности работы с IP-протоколом. На уровне страны или крупного региона точность действительно стремится к 100%, так как магистральные пулы адресов жестко распределены между национальными и региональными узлами. Если спускаться на уровни ниже, то уровень расхождений начинает резко расти. На своей стороне измерение на каждом из уровней мы не проводили, в связи с чем конкретных цифр для транслирования рынку сейчас предоставить не можем.

Наталья Лифатова

 заместитель генерального директора по техническому развитию Weborama

Приведенные значения можно использовать как ориентиры, но не как универсальный бенчмарк. Для крупных городов точность определения обычно выше: по таким IP-сетям больше данных для проверки географии. Для небольших населенных пунктов чаще используется привязка к региону или региональному центру — это снижает риск некорректной детализации. Если данных по IP-сети недостаточно, более точная геопривязка просто не присваивается. Поэтому в таких случаях корректнее говорить о снижении полноты покрытия, а не о росте ошибки определения.

Юрий Назаричев

руководитель аналитики AdRiver

Сами диапазоны выглядят разумно: чем меньше город, тем меньше данных, чтобы подтвердить гео, значит, и расхождения ожидаемо больше. Но я бы не стал подписываться под конкретными процентами как под официальной нормой. Эти цифры работают только вместе с методикой измерения. Пока рынок не договорился, что считать городом и что считать попаданием в цель, один и тот же показ у площадки и у верификатора может попадать в разные категории. В отчёте это может показаться расхождением, хотя на самом деле никто не ошибся, но считаем по разному. Поэтому мы читаем эти проценты не как ошибку, а как зону неопределенности: если данных по IP не хватает, честнее отнести показ к Other или к региону, чем показывать клиенту детализацию, которой на самом деле нет. То есть эти диапазоны — не норматив, а скорее повод рынку договориться о единой методике.

Дмитрий Фролов

операционный директор Adserving

Рынку нужна единая методика

Бенчмарка нет не потому, что рынок его скрывает, а потому что его никто не измеряет: регулярное измерение точности по уровням населенных пунктов технически невозможно, и публичные вендоры такой разбивки не дают.

Поэтому рынку нужно сделать два шага.

Первый — договориться о методике измерения, прежде чем спорить о цифрах. Например, без общего понимания о том, что считать городом любой бенчмарк будет оспорен так же, как оспорен наш.

Второй — и это задача со звездочкой — договориться с операторами о том, чтобы процесс публикации IP-адресов стал прозрачным. Механизм по публикации данных о переназначении подсетей для операторов существует с 2020 года, правда, им почти не пользуются. А это значит, что рынку приходится проводить дополнительные проверки, чтобы получить информацию, которая уже есть у оператора.

Главное — начать обсуждать это публично, а не в частных спорах между площадкой и верификатором. Пока рынок не договорится о единых правилах, рекламодатели продолжат получать разные цифры в отчетах и тратить время на разбирательства.