Порно с большим интеллектом: почему с сексуальными дипфейками никто не борется

Защиты от порнографических дипфейков не существует

По данным, которые приводит Bloomberg, во время бума искусственного интеллекта количество созданных без согласия порнографических дипфейков резко возросло — число роликов с 2019 года увеличилось в девять раз. Только в мае 2023 года на 30 сайтах появилось около 150 тыс. видеороликов, которые в общей сложности получили 3,8 млрд просмотров.

Большинство таких сайтов предлагает библиотеки дипфейковых программ с лицами знаменитостей, пересаженными на тела порноактеров.

Другие дипфейковые ресурсы помогают за деньги раздеть соседей, одноклассниц, сотрудниц отдела пиара и маркетинга — по приколу, для утех или мести.

Жертвам таких «розыгрышей» возместить экономический или эмоциональный ущерб еще не удавалось. Ни один федеральный закон родины дипфейк-порно —США — в настоящее время не криминализирует его создание или распространение.

Хотя, по словам адвоката WilmerHale Мэтью Ферраро, за последние годы 13 штатов приняли законы против такого контента, их трудно обеспечить соблюдением. В США еще ни один человек не был привлечен к ответственности за создание несогласованного сексуального контента с помощью ИИ.

Технологическая основа дипфейк-порно

Чтобы привлечь пользователей и заработать денег, сайты дипфейков полагаются на обширную сеть технологических продуктов и услуг, которые предоставляются крупными публичными компаниями как из сферы IT, так и финансов. Все крупнейшие технокомпании так или иначе связаны с созданием и распространением ИИ-порно. Google, Amazon, X (ранее известная как Twitter) и Microsoft владеют инструментами и платформами, которые способствуют его росту.

Поиск Google, например, является основным источником трафика дипфейковых сайтов, пользователи X регулярно и в больших количествах распространяют дипфейковый контент. Amazon, Cloudflare и GitHub от Microsoft предоставляют услуги хостинга и хранения информации для этих сайтов. Крупнейшие платежные системы, PayPal обеспечивают практически все проводки средств между заказчиками и дипфейкпорносайтами.

Порнографические дипфейки в поисковых системах

По данным Similarweb, с июля 2020 года по июль 2023 года ежемесячный трафик на 20 крупнейших сайтах с дипфейками увеличился на 285%, при этом Google стал его крупнейшим драйвером (по оценкам компании Likeweb, на долю Google Search приходится 79% мирового поискового трафика). В июле на пять ведущих сайтов, включая самый популярный Mrdeepfakes.com, через поиск пришло 25,2 млн посетителей.

Кроме того, должны быть созданы механизмы проверки, одобрил ли человек использование своего лица или предоставил права на имя и изображение. «Отрасль должна взять на себя инициативу и обеспечить некоторое самоуправление», — считает Ноннеке.

С этим согласны и другие борцы с дипфейковой порнографией, которые все чаще прибегают к прямому публичному воздействию на технологические компании. Они уверены, что поисковые системы должны делать больше для ограничения распространения этого явления.

29-летняя порноинфлюенсер Кейтлин Сирагуса заявила Bloomberg, что Google вообще следует «полностью закрыть результаты поиска по дипфейкам». Ее команда устала писать жалобы на использование ее лица без разрешения.

Ответы Google на такие предложения и требования традиционны. Как и любая поисковая система, он индексирует весь контент, существующий в сети. «Но мы активно разрабатываем наши системы рейтинга, чтобы не шокировать людей неожиданным вредным или откровенным контентом, который они не хотят видеть», — сказал представитель поисковика Нед Адрианс. Компания заявила, что разработала средства защиты, чтобы помочь пострадавшим от непреднамеренной фальшивой порнографии,  — эти люди могут потребовать удаления страниц о них, содержащих такой контент.

Порнографические дипфейки в социальных сетях

Активисты хотят большей ответственности и от социальных сетей. Среди них по распространению дипфейков лидирует экс-Twitter. По данным Dataminr, отслеживающей новости в социальных сетях, три хэштега для дипфейковых видео и изображений публикуются в X десятки раз каждый день. В период с первого по второй квартал 2023 года количество твитов по восьми хэштегам, связанным с этим контентом, увеличилось на 25% до 31,4 тыс. твитов.

ИИ-порнография в облаках и проводах

Дипфейковые сайты также полагаются на крупные технологические компании, которые предоставляют им веб-инфраструктуру. Согласно обзору Bloomberg, 13 из 20 крупнейших фейковых сайтов получают доступ в интернет через хостинг Cloudflare.

Amazon.com предоставляет услуги хостинга для трех популярных инструментов дипфейкинга, представленных на нескольких сайтах, включая Deepswap.ai.

Cloudflare не ответила на запрос Bloomberg о комментариях. Представитель Amazon Web Services сослался на корпоративные условия обслуживания, которые запрещают незаконный или вредный контент, и попросил сразу сообщать о нем в компанию.