Боты раздора: как ИИ втягивает корпорации в культурные войны
Иллюстрация сгенерирована Sora Images
Быстрее и незаметнее
Координированные атаки на корпорации стали гораздо более распространенными за последние год-два, рассказал Wall Street Journal профессор компьютерных наук и коммуникаций Университета Южной Калифорнии Эмилио Феррара, который изучает ботов в социальных сетях уже много лет. По его словам, сети ботов атаковали такие бренды, как Amazon, Target, McDonald’s и Boeing.
«Что изменилось сейчас — это то, как быстро боты на основе ИИ могут раскручивать кампании, выглядящие как массовые движения, вокруг провокационных или спорных вопросов, например тем культурных войн, и поддерживать их в трендах», — объяснил Эмилио Феррара.
Профессор отметил, что вычислить управляющих виртуальными армиями сложно, но в перечисленных примерах речь шла о негосударственных кампаниях, направленных против репутации брендов. Развитие генеративного ИИ сделало кампании ботнетов одновременно проще в управлении и сложнее в обнаружении.
Определить мотивацию этих атак так же сложно, как идентифицировать стоящих за ними людей, но деньги — главный претендент. Об этом говорят данные стартапа PeakMetrics, который отслеживает онлайн-дискуссии и угрозы для клиентов, включая государственные агентства и компании. Верифицированные пользователи X, которые соответствуют минимумам по подписчикам и просмотрам, могут получать деньги на основе лайков, ответов и репостов их постов от других верифицированных пользователей. Боты, маскирующиеся под людей, могут помогать достигать этих минимумов и распространять посты, чтобы они достигали большего числа людей, которые могут взаимодействовать с контентом.
Атака на Cracker Barrel
Сеть ресторанов Cracker Barrel Old Country Store недавно отказалась от нового логотипа под критикой потребителей, инфлюенсеров и официальных лиц, включая президента США Дональда Трампа. Генеральный директор Джули Фелсс Масино признала на последнем отчетном звонке компании, что «бренд оступился». ADPASS подробно писал об этой истории.
Однако непропорционально большая доля обсуждений в социальных сетях, которые подпитывали новостной цикл о логотипе Cracker Barrel, была создана ботами на X, согласно данным PeakMetrics, которая работает с ВВС США для выявления источников иностранной дезинформации, а также израильской фирмы по обнаружению дезинформации Cyabra.
Негативная онлайн-реакция на логотип началась с аккаунтов, управляемых людьми, у которых сотни тысяч подписчиков. Они начали призывать к бойкоту 20 августа, через день после того, как Cracker Barrel впервые упомянула свой новый логотип в пресс-релизе. Компанию обвинили в измене традиционному логотипу с его деревенским шармом и многолетней историей.
Сотни ботов вскоре начали делиться постами, отвечать на них и публиковать собственные, сообщила PeakMetrics. Пик активности пришелся на время незадолго до полуночи 20 августа, когда X зафиксировала около 400 постов о Cracker Barrel в минуту. «70% аккаунтов, продвигавших бойкот в тот момент, использовали дублирующиеся сообщения — ключевой маркер координированных ботов», — заявила директор по аналитике PeakMetrics Молли Дуайер.
Другие признаки включали повторение одного и того же десятки раз или постоянную публикацию почти 24 часа в сутки. Боты или вероятные боты написали 44,5% постов в X, упоминающих Cracker Barrel, в течение 24 часов после того, как новый логотип привлек внимание 20 августа, согласно исследованию PeakMetrics для Wall Street Journal. Это число выросло до 49% среди постов, призывающих к бойкоту.
Доля постов, которые обычно исходят от ботов и вероятных ботов во время обсуждений любых спорных вопросов на X, составляет от 20% до 30%, сообщила PeakMetrics. Видные политические аккаунты, такие как губернаторская кампания сенатора Марши Блэкберн, в конечном итоге поделились своими взглядами на споры. Трамп использовал свою соцсеть Truth Social, чтобы выступить против нового логотипа, и 26 августа Cracker Barrel отменила свое решение.
Новые мишени — от Amazon до McDonald's
Недавние атаки ботнетов усилили посты, призывающие к бойкотам Amazon и McDonald’s, потому что компании свернули программы разнообразия, справедливости и инклюзивности. Об этом заявили WSJ в Cyabra.
Что такое Cyabra
Среди клиентов израильской Cyabra — госдеп США, развлекательный гигант Warner Bros. Discovery и агентство по связям с общественностью Golin. Илон Маск нанимал фирму для оценки активности ботов в бывшем Twitter перед покупкой социальной платформы в 2022 году.
Cyabra проверяет от 600 до 800 параметров, включая местоположение, частоту публикаций и использование созданных ИИ аватаров, чтобы определить, являются ли аккаунты настоящими. Об этом рассказал WSJ директор по маркетингу компании Рафи Мендельсон.
Отслеживание ботов не помогает остановить атаки. «Если вы бренд, если вы директор по маркетингу бренда, что, черт возьми, вы будете делать?» — задается он вопросом.
Тем не менее, знание того, что эти негативные атаки координируются третьими сторонами, может помочь маркетологам избежать прямого взаимодействия с ботами и не воспринимать каждую жалобу как исходящую от человека.
Компании не готовы к новой реальности
Ботнеты сосредотачиваются на спорных темах, чтобы эффективнее провоцировать живых людей на реакцию, и не ограничиваются какой-либо конкретной платформой или политической идеологией. Они могут заставить жалобы выглядеть более масштабными, чем они есть на самом деле, ставя руководителей в оборонительную позицию.
«Существует экосистема людей, которые ищут за что зацепиться, им подойдет что угодно», — предупреждает директор по аналитике PeakMetrics Молли Дуайер. По ее словам, произошел сдвиг в настроениях, но компании пока не вполне осознали эти изменения. Специалист считает, что теперь руководители должны рассматривать любое решение, которое они принимают, как потенциальную мишень для массовой атаки виртуальных личностей с целью повредить имиджу бренда.
Wall Street Journal отмечает, что сети действующих сообща фальшивых персон в социальных сетях исторически были уделом мошенников и государств, создававших для этого так называемые фабрики троллей. Но теперь боты стали проблемой и для брендов.
Лучшее в блогах
Вам понравится
Переходы из чат-бота ChatGPT и с ИИ-поисковика Perplexity на сайты электронной коммерции выросли в США на 752% за год, а две трети американцев планируют использовать ИИ для праздничных покупок. Но вот парадокс: 80% покупателей после сессии с чат-ботом всё равно идут на сайт ритейлера проверить решение. ADPASS изучил свежую статистику по ИИ-шопингу от Deloitte, Brightedge и eMarketer и разобрался, что она означает для брендов.
Команда проекта провела эксперимент на пике популярности игрушек Labubu и доказала, что простые фотографии повышают вовлеченность аудитории больше, чем профессиональные иллюстрации.
Неделя рекламы
Энциклопедия обмана