ИИзбирательная кампания: в грязных политтехнологиях все чаще используют искусственный интеллект

Еврокомиссия потребовала от ведущих технологических компаний отчитаться, какие меры они принимают, чтобы снизить риски, создаваемые генеративным искусственным интеллектом (ИИ) – например, риск вирусного распространения дипфейков. Европейские власти опасаются негативного влияния ИИ на электоральные процессы. И эти опасения не беспочвенны, выяснил ADPASS: политические дипфейки уже активно применяют в Европе, Америке и в Азии.

Еврокомиссия призвала к ответу поисковики и соцсети

14 марта Еврокомиссия направила официальные запросы на получение информации крупнейшим социальным сетям (Facebook*, Instagram**, Snapchat, TikTok, Х), поисковикам Bing и Google Search и видеохостингу YouTube. Высший орган власти ЕС требует, чтобы технологические платформы рассказали, какие меры они принимают для снижения рисков, связанных с использованием ИИ, способного генерировать текст, изображения и видео. К таким рисками причислены: так называемые ИИ-галлюцинации – предоставление пользователю ложной информации, вирусное распространение дипфейков и автоматическое манипулирование предоставляемыми услугами, способное сбить с толку пользователей.

Информация и внутренние документы компаний, о которых идет речь в запросе Еврокомиссии, затрагивают целый ряд тем: влияние генеративного ИИ на электоральные процессы, распространение нелегального контента, защиту фундаментальных прав человека и несовершеннолетних, гендерное насилие и душевное здоровье. В направленных еврочиновниками опросниках есть вопросы, касающиеся как распространения, так и создания контента с помощью ИИ.

Право на получение Еврокомиссией таких данных прописано в новом Законе о цифровых услугах, недавно вступившим в полную силу в ЕС. Информация, касающаяся избирательных процессов, должна быть предоставлена до 5 апреля, ответы на остальные вопросы – до 26 апреля. Закон позволяет штрафовать технологические компании за неполную, некорректную или вводящую в заблуждение информацию, а также за непредоставление информации.

Еврофейки

В сентябре 2023 года жертвой дипфейка, созданного с помощью ИИ, стала партия «Прогрессивная Словакия». Перед парламентскими выборами в соцсетях активно циркулировали аудиозаписи, на которых лидер партии и замглавы Европарламента Михал Шимечка якобы говорил о повышении цен на пиво. Выборы партия проиграла.

В ноябре 2023-го немецкая арт-группа «Центр политической красоты» распространила в соцсетях и на своем сайте сгенерированное с помощью ИИ-технологий видео. На нем канцлер Германии Олаф Шольц заявляет о планах правительства запретить крайне правую политическую партию «Альтернатива для Германии» (AfD). Пресс-секретарь правительства ФРГ Штеффен Хебештрайт подверг ролик критике, заявив, что подобные действия подрывают доверие общественности к массмедиа. «Видео ненастоящее. Такие дипфейки несмешны. Они манипулятивны и нагнетают неопределенность», – написал Хебештрайт в своем аккануте в Х.

В ноябре же в Великобритании появились сомнительные аудиозаписи политического содержания. Их распространяли в соцсети TikTok. Мэр Лондона Садик Хан якобы говорил, что ему наплевать на День памяти павших в Первой мировой войне и предлагал перенести выходные дни, связанные с этой датой, на другой уик-энд.

В феврале 2024-го в соцсетях получило распространение видео, на котором корреспондент телеканала France 24 Жюльен Фанчули рассказал, что планировавшуюся поездку президента Франции Эмманюэля Макрона в Киев пришлось отменить из-за того, что в Киеве на него готовилось покушение. Телеканал назвал видео дипфейком.

Где еще ИИ обманывал избирателей

Дипфейковые политтехнологии используются не только в Европе. В июне 2023 года в Бангладеш в соцсетях активно распространялась искусственно сгенерированная фотография депутата парламента, бывшего лидера парламентской оппозиции Румин Фархана, на которой она была изображена в купальнике. Фархана в последних выборах не участвовала, поэтому понять, как фото повлияло на ее рейтинг невозможно.

Более 4,7 млн просмотров в Х и широкое распространение в других соцсетях получило появившееся перед всеобщими выборами в Индонезии в феврале 2024 года трехминутное видео. На нем скончавшийся в 2008 году бывший президент страны Сухарто призывает голосовать за партию «Голкар», которая в итоге заняла второе место по количеству набранных голосов.

На Тайване перед президентскими выборами в январе 2024 года избиратели могли увидеть в соцсетях сгенерированное ИИ видео. На нем американский конгрессмен Рон Уиттман якобы обещал дополнительную военную поддержку США Тайваню, если будет переизбран представитель правящей партии. Официальный Тайвань называл дипфейк попыткой вмешательстве со стороны КНР, которая все отрицала. По итогам выборов власть сохранила правящая Демократическая прогрессивная партия.

В США политтехнолог Стив Крамер, работающий с Демократической партией, 20 января провел автоматический телефонный обзвон примерно 500 избирателей в штате Нью-Гэмпшир. Голос, отредактированный под голос президента Джо Байдена, призывал избирателей не голосовать на предварительных выборах (primaries) Демократической партии. 7 марта пострадавший от дипфейка Байден, выступая в Конгрессе с речью «О положении страны», призвал запретить использование технологий ИИ для создания голосовых сообщений.

Россия пока не сталкивалась с политическими дипфейками, созданными с помощью технологий ИИ. Но голосовые дипфейки начали активно использовать телефонные мошенники. В феврале этого года газета «Ведомости» сообщала, что Минцифры совместно с МВД и Роскомнадзором прорабатывают вопросы правового регулирования цифровой технологии подмены личности (дипфейк) в целях недопущения ее использования в противоправных целях. Правительственная комиссия по профилактике правонарушений под председательством министра внутренних дел Владимира Колокольцева планирует заслушать отчет ведомств о проделанной работе до 1 ноября 2024 года.

* продукт компании Meta (признана экстремистской организацией и запрещена в РФ)

** продукт компании Meta (признана экстремистской организацией и запрещена в РФ)