Секс-блюр: Instagram тестирует новую функцию «защита от наготы» для подростков

После того, как генеральные прокуроры 41 американского штата обвинили компанию Meta* в том, что она «наживается на детской боли», владелец крупнейших соцсетей вчера объявила, что тестирует новые функции, которые защитят подростков от сексуального вымогательства через Instagram**. В Meta пообещали включить в Instagram функцию «защита от наготы» для тех, кому не исполнилось 18 лет, а также усложнить потенциальным шантажистам общение с другими пользователями. У других сетей пока нет столь масштабных программ борьбы с секс-вымогательством.

Что такое секс-вымогательство

Сексуальное вымогательство в онлайн-сообщениях – популярный способ сетевого мошенничества. В английском языке его стали называть термином sextortion, образованном от слов sex (секс) и extortion (вымогательство). Преступник связывается с жертвой и угрожает, что обнародует якобы имеющиеся в его распоряжении интимные фото или видео жертвы (например, якобы сделанные во время посещения жертвой порносайта через «взломанную» видеокамеру). Другой вариант действий преступников – предложение обмениваться интимными фотографиями через соцсеть. В любом случае заканчивается все тем, что с жертвы требуют денежный выкуп за существующий или вымышленный компромат. Этот вид мошенничества существует не первый год. Первоначально преступники использовали электронную почту, а с развитием соцсетей перешли на них.

Подростки особо уязвимы перед таким видом преступлений. Шантаж может отразиться на их душевном здоровье, известны случаи самоубийств после общения с вымогателями. В США, по данным ФБР и Министерства внутренней безопасности, с октября 2021 года по март 2023 года жертвами sextortion стали как минимум 12 600 человек, в основном мальчики, что привело минимум к 20 случаям суицида.

Россия столкнулась с секс-вымогательством в крупных масштабах еще в 2015 году, о чем рассказывал в интервью «Коммерсантъ-Деньги» представитель управления К МВД РФ Александр Вураско. По данным исследования, проведенного компанией Eset (разработчик антивирусного программного обеспечения и решений в области компьютерной безопасности) в 2020 году, в период самоизоляции во время пандемии COVID-19, с попытками такого шантажа сталкивались 11% россиян.

Что Meta хочет добавить в Instagram

Для всех пользователей соцсети, которым не исполнилось 18 лет, по умолчанию будет включена функция «защита от наготы», которая будет размывать (блюрить) изображения, содержащие наготу, полученные в мессенджере Instagram.

Определять такие изображения и размывать их будет система, использующая функции искусственного интеллекта, которая будет работать на принадлежащем пользователю устройстве. Пользователю предоставят выбор – смотреть изображение в оригинальном виде или нет. Совершеннолетние пользователи соцсети смогут также включать эту функцию – по собственному желанию. Получив такое изображение в мессенджере, пользователь увидит напоминание о том, что он может заблокировать отправителя и сообщить о нем.

Кроме того, Meta собирается принимать меры по выявлению потенциальных шантажистов и усложнять им возможность общения с другими пользователями соцсети. Сообщения, полученные от потенциального вымогателя, будут сразу отправляться в папку «скрытые». Пользователям, которые уже посылали сообщения потенциальным шантажистам, будет показываться предупреждение о том, что им следует сообщать компании об угрозах обнародования интимных фото или видео. Подросток, даже уже связывавшийся ранее с аккаунтом потенциального преступника, не сможет отправить ему сообщение в мессенджере Instagram, так как кнопка «отправить» будет скрыта.

Meta также разрабатывает всплывающие сообщения, которые будут появляться на устройствах людей, которые ранее связывались с аккаунтами, отключенными за секс-вымогательство. В этих сообщениях будет содержаться информация о том, куда при необходимости можно обратиться за советом и помощью.

Как Meta защищала несовершеннолетних раньше

Ранее Meta уже рапортовала о «более чем 30 инструментах и функциях», которые помогают подросткам и их родителям бороться с недетским контентом. Правда, в этот длинный список входили такие функции как блокировка пользователя, запрет оставлять комментарии, стирание комментариев, которыми пользуются не только подростки. В марте 2021 года были приняты более конкретные меры. Пользователям Instagram и Facebook в возрасте старше 19 лет была ограничена возможность отсылки личных сообщений через мессенджеры подросткам, если те не подписаны на аккаунт взрослого. А подростки стали получать предупреждения о том, что в разговорах со взрослыми нужно быть осторожнее. В июле того же года взрослым пользователям Instagram усложнили возможности находить аккаунты подростков и подписываться на них, используя разделы Reels, «Интересное», «Рекомендации».

В январе 2024 года были предприняты новые меры защиты несовершеннолетних от нежелательных контактов. Всем несовершеннолетним была по умолчанию отключена возможность получать личные сообщения в мессенджерах соцсетей Meta от людей, на которых они не подписаны (или не общаются через соцсеть), включая даже других несовершеннолетних. Если аккаунт подростка находится под родительским наблюдением, включить эту функцию можно только с разрешения родителей. В феврале Facebook и Instagram стали сооснователями проекта Take It Down («Уберите это»), позволяющий по запросу найти в сети и убрать из нее попавшие туда фотографии и видео откровенного содержания, которые кто-то сделал в возрасте до 18 лет.

Какие компании борются с онлайн-эксплуатацией

В ноябре 2023 года коалиция технологических компаний объявила о запуске программы Lantern («Фонарь»), цель которой – усилить борьбу с сексуальной эксплуатацией и насилием над детьми в сети. В объединение входят Google, Meta, Discord (популярный среди геймеров мессенджер), Mega (облачное хранилище), Snap (владелец соцсети Snapchat), Quora (социальный сервис обмена знаниями), Roblox (игровая онлайн-платформа и система создания игр) и Twitch (стриминговый видеосервис, специализирующийся на компьютерных играх).

Кроме секс-вымогательства участники коалиции борются также с таким преступлением как online grooming (онлайн-ухаживание) – знакомство с несовершеннолетними в онлайне с целью сексуальной эксплуатации. В рамках программы ее участники обмениваются информацией о потенциально противоправной деятельности и подозрительных учетных записях. Собранная информация впоследствии может быть передана правоохранительным органам. Во время пилотной фазы проекта облачное файлохранилище Mega поделилось URL-адресами, которые Meta впоследствии использовала для удаления более 10 000 профилей и страниц на Facebook** и аккаунтов в Instagram.

Meta – к ответу!

Объявления Meta о принятии новых мер защиты несовершеннолетних звучат на фоне обвинений в адрес компании со стороны властей США. Американские политики обвиняют компанию в том, что ее cоциальные сети вызывают привыкание и оказывают негативное влияние на душевное здоровье детей и подростков. В октябре 2023 года генеральные прокуроры 41 штата и округа Колумбия подали иски против Meta, обвиняя компанию в том, что она «наживается на детской боли».

В ряде штатов для борьбы с вредным влиянием соцсетей принимаются законы, ограничивающие или запрещающие доступ в соцсети до достижения определенного возраста. Две недели назад в штате Флорида был принят закон, по которому детям до 14 лет полностью запрещено иметь аккаунты в соцсетях, а с 14 до 16 лет аккаунт можно заводить только с разрешения родителей. Закон должен вступить в силу 1 января 2025 года, если не будет оспорен в суде технологическими компаниями, в том числе Meta, как это уже было с подобными инициативами других штатов.

* признана экстремистской организацией и запрещена в РФ

** продукт компании Meta (признана экстремистской организацией и запрещена в РФ)