Выручка рынка дипфейков в первом квартале превысила $200 млн

В первом квартале 2025 года по всему миру наблюдалась тревожная эскалация случаев мошенничества с дипфейками, чему способствовало развитие технологий искусственного интеллекта. Чаще всего имитируются знаменитости и другие публичные фигуры (41% случаев), но все чаще жертвами дипфейков становятся обычные люди. В каждом третьем случае в дипфейке объединяются видео, фото и аудио. Общий ущерб, нанесенный мошенничествами с дипфейками, в I квартале превысил $200 млн. Эти данные приводятся в докладе Q12025 Deepfake Incident Report, подготовленном компанией Resemble AI на основе 163 задокументированных инцидентов с дипфейками.

Кто становится жертвой компьютерных атак с использованием дипфейков

Если в прошлом технологии deepfake использовались в первую очередь в политических целях, имитировалось известное публичное лицо, то в первом квартале 2025 года преступники проявляли большее разнообразие в выборе жертв.

Дипфейки знаменитостей, политиков, бизнес-лидеров все еще занимают первое место — 41% всех инцидентов с дипфейками. Но объектами практически каждой третьей атаки (31%) становились обычные люди, преимущественно женщины и дети. Фиксируется рост случаев в системе образования, когда дипфейки используются в качестве орудия для преследования и унижения. В 18% случаев жертвами были организации (государственные и бизнес-структуры, образовательные учреждения). В 7% случаях дипфейки использовались для распространения фальшивых историй, информации о выдуманных событиях, то есть были направлены против информационной экосистемы в целом.

Видео — самый популярный формат дипфейков

46% дипфейков, изученных исследованиями, были в формате видео. Видеоформат доминирует из-за своего эмоционального воздействия и вирусного потенциала. Следующий по популярности формат — фото (32%). Примерно каждый пятый дипфейк (22%) был создан в аудиоформате. Технологический прогресс играет на руку злоумышленникам. При клонировании голоса 3–5 секунд образца звука достаточно для создания голоса с 85%-ным уровнем совпадения. Манипуляции фотографиями стали настолько изощренными, что 68% таких дипфейков практически неотличимы от настоящих снимков.

Кроссмодальная интеграция, объединение нескольких форматов в одном дипфейке, использовалась в каждом третьем случае.

Слева: форматы дипфейков. Синий цвет — видео, красный — изображение, желтый — аудио. Справа, мультимодальные комбинации дипфейков, в порядке убывания доли — единственный формат, комбинация видео и звука, комбинация фотографии со звуком, комбинация фотографии, видео и звука.

Цели использования дипфейков

В докладе Resemble AI выделены следующие виды дипфейков. Треть дипфейков (32%) — откровенный контент, фото и видео сексуального характера, изготовленные без согласия изображаемых лиц. Жертвами чаще всего становятся женщины и девочки — как знаменитости и политики, так и обычные люди. Подобные материалы в некоторых случаях использовались дляпреследования, шантажа или мести. Жертвам наносится серьезный и долгосрочный психологический вред, при этом многие сообщают о трудностях с удалением вредоносного контента из интернета и соцсетей.

Около четверти дипфейков (23%), созданных в первом квартале 2025 года, использовались с целью финансового мошенничества. Преступники, например, создавали убедительные копии известных политиков, бизнесменов, звезд массовой культуры, чтобы обмануть своих жертв. Были зарегистрированы сложные схемы инвестиционного мошенничества с использованием сфабрикованных одобрений финансовых операций публичными лицами, а также взлом деловой электронной почты с использованием клонирования голоса. Финансовые потери в некоторых случаях измерялись миллионами долларов.

На третьем месте по популярности — политическая манипуляция (14% случаев). Это дипфейки, направленные против политических деятелей или политических процессов, манипулирование общественным мнением с помощью распространения дезинформации. Сюда относятся сфабрикованные заявления политиков, попытки повлиять на результаты выборов. Использование дипфейков в политических целях подрывает доверие общественности к СМИ и демократическим институтам.

Примерно на одном уровне с политической манипуляцией находится использование дипфейков для распространения ложной информации — 13% случаев. Это могут быть сообщения о событиях, катастрофах и т.д. Скорость распространения таких сообщений через соцсети создает проблемы для традиционных механизмов проверки фактов.

Каждый десятый случай (10%) использования технологий дипфейк приходился в первом квартале на имитацию личности другого человека и кражу личных данных. Дипфейки использовались для доступа к защищенным системам путем обхода биометрических систем безопасности.

К другим целям (8%) авторы доклада отнесли преследование, издевательства, корпоративный саботаж.

Цели использования дипфейков по числу инцидентов данного типа. Сверху вниз: откровенный контент, финансовое мошенничество, политическая манипуляция, дезинформация, имитация личности, другое.

География инцидентов с дипфейками

Статистика использования дипфейков в географическом разрезе выглядит следующим образом. Более половины инцидентов с использованием дипфейков приходится на страны Северной Америки (38% от общего числа) и Азии (27%). В США целями атак часто становились политики, знаменитости, учащиеся учебных заведений. В Индии — звезды Болливуда и политики. В Южной Корее — звезды К-pop. Европа — на третьем месте по числу инцидентов (21%). Что касается других регионов, то их отставание, возможно, объясняется не только меньшим числом инцидентов с дипфейками, но и меньшим числом задокументированных случаев.

Проблема киберугроз с использованием дипфейков стоит в международном масштабе.В 1 квартале 2025 года в двух третях (63%) случаев использование технологии deepfake не ограничивалось пределами одной страны.

Авторы:

Алексей Скворцов

#Дипфейки #Криминал #Resemble AI

Нравится: AVAX-1 Digital