Роскомнадзор открыл «Окулус»

Роскомнадзор запустил систему поиска запрещенного контента «Окулус». Система будет отслеживать и классифицировать нарушения российского законодательства в изображениях и видеороликах в заранее отобранных источниках информации. Необходимость запуска системы в Роскомнадзоре объяснили лавинообразным ростом противоправного контента, распространяемого в интернете, и сложностью его анализа операторами-людьми. Эксперты выражают опасение в некорректной классификации системой исследуемого.

О запуске системы «Окулус» сообщили в Главном радиочастотном центре (ФГУП ГРЧЦ). В ведомстве не назвали точную дату ввода системы в эксплуатацию. По словам представителя ГРЧЦ, «Окулус» уже запущен и выполняет возложенные на него задачи в полном объеме». Система была протестирована в декабре 2022 года, а в январе 2023 началась интеграция системы с другими инструментами мониторинга Роскомнадзора, рассказал представитель. Подробностей результатов тестирования системы и первых итогов ее работы в ведомстве не раскрыли, сообщают «Ведомости».

В ГРЧЦ объяснили потребность в такой системе агрессивно растущим потоком запрещенных материалов. Особенно много незаконного контента появилось после начала военных действий в Украине. По словам представителя ведомства, речь идет о «невиданных ранее объемах и скорости распространения фейков, которые направлены на подмену реальных фактов специально сконструированной „реальностью“».

По словам Тылевич, при использовании системы могут возникнуть риски, вызванные ограничениями системы искусственного интеллекта. Например, система может осуществить некорректную классификацию контента, объясняет она. Также непонятно, насколько корректно полученные результаты будут интерпретироваться в связке с другими компонентами системы и человеком, отметила Тылевич. «Вопрос интерпретации и настроек будет определять масштаб таких погрешностей, как будет классифицироваться спорный контент — считать ли его запрещенным или нет. Но так или иначе это будут риски не столько самого решения, сколько риски уже дальнейшей работы с полученными в результате его работы данными», — резюмировала эксперт.

С ней согласна гендиректор Лиги безопасного интернета Екатерина Мизулина. По ее мнению, «после аналитики искусственного интеллекта очень важно делать и ручную выборку такой информации, проверять работу ИИ и уже работать с конкретными фактами». «После работы искусственного интеллекта важна и стандартная, ручная обработка данных», — резюмировала гендиректор.