Несуществующим людям доверяют больше: ИИ-лица обошли настоящие

ИИ научился генерировать лица, которым люди доверяют сильнее, чем настоящим — к такому выводу пришли ученые. Главная находка исследования парадоксальна: лица от диффузионной модели люди чаще распознают как подделку, но именно им доверяют больше всего. Этот вывод немаловажен в том числе и для рекламной индустрии.

Иллюстрация из исследования. R — реальное лицо, G — созданное GAN-моделью, DM — диффузионной моделью

Исследователи-психологи из Ланкастерского университета вместе с коллегами из Стэнфорда и Беркли — их работа опубликована в Journal of Vision — впервые напрямую сравнили, как воспринимаются лица, созданные двумя поколениями генеративного ИИ: «старыми» GAN-сетями (StyleGAN2) и новейшими диффузионными моделями (в данном случае использовалась Adobe Firefly). Участникам показывали 1200 изображений — поровну реальных, GAN- и «диффузионных» лиц, выборка была сбалансирована по расе, полу и возрасту.

Что показали цифры

В первом эксперименте 169 участников отличали настоящие лица от синтетических. Средняя точность — 58,4%, то есть лишь немного выше, чем если подбрасывать монету. Причем люди систематически склонялись к ответу «настоящее», хотя две трети лиц были сгенерированы: в отсутствие явных огрехов мы по умолчанию считаем изображение подлинным. Неожиданно «старые» GAN-лица обманывали лучше новых «диффузионных» — их правильно опознавали лишь в 48% случаев.

Во втором эксперименте другая группа оценивала доверие к лицам по 7-балльной шкале. Реальные лица оказались аутсайдерами (4,03 балла), GAN набрали 4,36, а «наименее реалистичные» диффузионные — 4,70.

По мнению авторов, парадокс говорит о том, что суждения о реализме и о доверии — два разных психологических механизма. Возможные причины большего доверия к ИИ-лицам — их усредненность (типичное лицо кажется знакомым, а знакомое — надежным) и обучение Firefly на стоковых фото Adobe — «профессиональных» и отфильтрованных, что могло сделать лица привлекательнее. Версию с улыбками ученые отмели: доля улыбающихся лиц во всех группах была одинаковой. Попутно всплыл расовый перекос: белые GAN-лица распознавались как ненастоящие хуже всего, лица темнокожих — заметно легче, что указывает на нехватку разнообразия в обучающих данных.

Две стороны медали

Создать убедительное несуществующее лицо сегодня может любой человек без технических навыков. Отсюда риски: политическая дезинформация, финансовое мошенничество, кража личности, катфишинг — по данным Signicat, число дипфейк-афер выросло на 2137% за три года. Существующие меры защиты работают слабо: обучение распознаванию дает минимальный эффект, водяные знаки уязвимы, а стандарты происхождения контента (C2PA/CAI) только внедряются.

«Критически важно понять угрозу, которую несет демократизация генеративного ИИ, и разработать стратегии снижения вреда для людей, организаций и демократий», — предупреждает ведущий автор исследования Алексис Макгуайр.

Ученые говорят о рисках, но у открытия есть и коммерческое прочтение. Доля рекламных изображений, сгенерированных ИИ, включая лица «моделей», стремительно растет — и результаты исследования намекают, что речь может идти не только об экономии на съемках, но и о преимуществе в плане эффективности креатива. Синтетическое лицо, воспринимаемое как более надежное, особенно ценно там, где доверие играет решающую роль: финансы, страхование, медицина.

Причем эффект отчасти создала сама индустрия. Люди доверяют ИИ-лицам, потому что те напоминают профессиональные стоковые и обработанные фильтрами фото — визуальный язык, к которому потребителей годами приучали реклама и соцсети. Нейросеть просто выучила и усилила этот стандарт «располагающего» лица.

Авторы:

Николай Белый