8 октября 2024 Роскомнадзор заблокировал в России Discord — самый популярный игровой мессенджер в мире. Как сообщила служба, блокировка связана с размещением противоправной информации, которая могла использоваться в террористических и экстремистских целях для вербовки граждан, продаже наркотиков и других незаконных действиях. Бан Discord не понравился не только геймерам. Против блокировки платформы выступил вице-спикер Госдумы Владислав Даванков и военкоры, которые рассказали, что мессенджер используется военными. На фоне блокировки Discord почти незаметной осталась новость о том, что РКН заблокировал несколько страниц на игровой платформе Steam.
Роскомнадзор открыл «Окулус»
Роскомнадзор запустил систему поиска запрещенного контента «Окулус». Система будет отслеживать и классифицировать нарушения российского законодательства в изображениях и видеороликах в заранее отобранных источниках информации. Необходимость запуска системы в Роскомнадзоре объяснили лавинообразным ростом противоправного контента, распространяемого в интернете, и сложностью его анализа операторами-людьми. Эксперты выражают опасение в некорректной классификации системой исследуемого.
О запуске системы «Окулус» сообщили в Главном радиочастотном центре (ФГУП ГРЧЦ). В ведомстве не назвали точную дату ввода системы в эксплуатацию. По словам представителя ГРЧЦ, «Окулус» уже запущен и выполняет возложенные на него задачи в полном объеме». Система была протестирована в декабре 2022 года, а в январе 2023 началась интеграция системы с другими инструментами мониторинга Роскомнадзора, рассказал представитель. Подробностей результатов тестирования системы и первых итогов ее работы в ведомстве не раскрыли, сообщают «Ведомости».
Что такое система «Окулус»
Главная задача системы «Окулус» — выявление нарушений российского законодательства в изображениях и видеоматериалах. Система распознает изображения, символы, противоправные сцены и действия. Также «Окулус» будет анализировать текст в фото- и видеоконтенте. Это будут материалы экстремистской тематики, призывы к массовым беспорядкам, суициду, «пронаркотический контент», пропаганда ЛГБТ, пояснили в Роскомнадзоре.
«Окулус» классифицирует изображения и видеоролики по заданным требованиям, в которые входят основные типы запрещенного контента, рассказала «Ведомостям» гендиректор компании «Социальная лаборатория» Наталия Тылевич. По ее словам, программа не занимается сбором данных, а работает как классификатор с уже заданными источниками информации, в которых анализирует контент. То есть «Окулус» может анализировать содержание конкретных сайтов или же паблики и профили в соцсетях, объяснила Тылевич.
До запуска системы специалисты ГКРЧ анализировали запрещенный контент «преимущественно вручную», рассказал в ГКРЧ. «В среднем операторы обрабатывали 106 изображений и 101 видео в день. „Окулус“ же будет анализировать более 200 000 изображений в сутки (около трех секунд на одно изображение). Система позволит автоматизировать и значительно ускорить мониторинг визуального контента», — продолжил представитель ГРЧЦ.
В планах ведомства совершенствование системы. До 2025 года в систему будут добавлены новые классы и типы нарушений. «Окулус» научат искать запрещенные материалы «на нескольких кадрах на видеофрагментах, в сложных рукописных текстах и рисованном контенте», а также добавят функцию «определения поз людей и их действий».
Как создавался «Окулус» и сколько стоила разработка
Первая информация о разработке системы «Окулус» появилась в июне 2022 года, ADPASS писал об этом. Тогда ГРЧЦ провел тендер на разработку техзадания на разработку системы, стоимостью 15 млн рублей. Позднее ведомство заказало непосредственно разработку «Окулуса» за 57,7 млн рублей. Разработчиком системы стала IT-компания Execution RDC.
В ГРЧЦ объяснили потребность в такой системе агрессивно растущим потоком запрещенных материалов. Особенно много незаконного контента появилось после начала военных действий в Украине. По словам представителя ведомства, речь идет о «невиданных ранее объемах и скорости распространения фейков, которые направлены на подмену реальных фактов специально сконструированной „реальностью“».
В 2022 году по требованию Генпрокуратуры в России было заблокировано более 100 000 интернет-ресурсов, которые содержали недостоверную информацию, в 2021 около 7000, в 2021 порядка 1500, а в 2019 всего несколько сотен, сообщили в Роскомнадзоре.
По словам Тылевич, при использовании системы могут возникнуть риски, вызванные ограничениями системы искусственного интеллекта. Например, система может осуществить некорректную классификацию контента, объясняет она. Также непонятно, насколько корректно полученные результаты будут интерпретироваться в связке с другими компонентами системы и человеком, отметила Тылевич. «Вопрос интерпретации и настроек будет определять масштаб таких погрешностей, как будет классифицироваться спорный контент — считать ли его запрещенным или нет. Но так или иначе это будут риски не столько самого решения, сколько риски уже дальнейшей работы с полученными в результате его работы данными», — резюмировала эксперт.
С ней согласна гендиректор Лиги безопасного интернета Екатерина Мизулина. По ее мнению, «после аналитики искусственного интеллекта очень важно делать и ручную выборку такой информации, проверять работу ИИ и уже работать с конкретными фактами». «После работы искусственного интеллекта важна и стандартная, ручная обработка данных», — резюмировала гендиректор.
Лучшее в блогах
Вам понравится
Правительство предлагает рынку интернет-рекламы поучаствовать в финансировании нацпроекта «Экономика данных», на который в 2025-2027 годах запланированы траты в 129-166 млрд рублей ежегодно. В проекте федерального бюджета, внесенного в Госдуму, говорится о введении специального сбора за распространение рекламы и услуг продвижения в интернете. Опрошенные ADPASS эксперты индустрии предполагают, что размер сбора может составить до 5%. Участники рекламного рынка пока не торопятся афишировать свое отношение к правительственному законопроекту.
Роскомнадзор подвел итоги маркировки рекламы в сети за первое полугодие 2024 года. По данным Единого реестра интернет-рекламы (ЕРИР), общий рекламный бюджет 880,7 тыс. рекламодателей составил 381,4 млрд рублей с НДС. Служба впервые поделилась статистикой по объему затрат рекламодателей в зависимости от их рекламного бюджета: четверть рекламных денег в интернете или 92 млрд рублей обеспечила 41 компания с полугодовыми расходами на интернет-рекламу свыше 1 млрд рублей. Треть средств пришлась на небольших рекламодателей: 878,9 тыс. игроков с бюджетами менее 20 млн рублей в среднем потратили на интернет-рекламу 145 тыс. рублей, а суммарно — 127,9 млрд рублей.
Сразу два законопроекта, направленных на борьбу с новыми технологиями, используемыми в мошеннических целях, были внесены 16 сентября в Государственную думу РФ. В Гражданский кодекс предлагается внести новую статью, которая закрепит право человека на голос и принципы его использования только с согласия гражданина. В Уголовном кодексе предложено закрепить ответственность за использование изображения или голоса гражданина, в том числе сфальсифицированных (дипфейки), при совершении преступлений.
ПОДПИСКА
ВАШ ЗАПРОС ДОСТАВЛЕН
О блогах ADPASS: правила, рекомендации, ответы на вопросы