TikTok начинает маркировать сторонний ИИ-контент

Соцсеть TikTok, принадлежащая китайской компании ByteDance, начала автоматически маркировать контент, созданный с помощью искусственного интеллекта на сторонних платформах. Ужесточать политики в отношении ИИ-контента уже начали YouTube (принадлежит Google) и Meta*. Что по поводу ИИ-маркировки российских платформ думает депутат Горелкин, – в материале ADPASS.

TikTok пометила свой ИИ-контент и принимается за чужой

9 мая 2024 года в новостном разделе сайта TikTok появилось сообщение, озаглавленное «Партнерство с нашей индустрией для продвижения ИИ-транспарентности и грамотности». В нем говорится, что соцсеть начинает автоматически маркировать загруженный с других платформ контент, созданный или измененный с использованием генеративного искусственного интеллекта. С сентября прошлого года соцсеть уже автоматически маркирует контент, созданный с помощью собственных ИИ-инструментов TikTok. Теперь маркировка будет применяться и в отношении контента, созданного с помощью чужого ИИ.

Для маркировки будет использоваться технология Content Credentials, разработанная Коалицией за аутентичность и проверяемое происхождение контента (Coalition for Content Provenance and Authenticity, C2PA).

Коалиция C2PA

В 2019 году компания-разработчик программного обеспечения Adobe вместе с газетой The New York Times и компанией Twitter (в настоящее время носит название Х Corp.) объявили об Инициативе аутентичности контента (Content Authenticity Initiative, CAI) по разработке стандарта индустрии для атрибутирования цифрового контента. Развитием этой инициативы стала основанная в 2021 году коалиция C2PA. Кроме Adobe в ее состав первоначально вошли технологические компании Microsoft, Truepic, Arm, Intel и британская телерадиовещательная корпорация BBC.

Коалиция C2PA занимается продвижением технологии Content Credentials, которая позволяет интегрировать метаданные для проверки происхождения контента, созданного с помощью ИИ. Благодаря этой технологии любой пользователь может выяснить, как создавался контент, использовался ли ИИ для его создания и редактирования.

Adobe в январе 2024 года сообщала, что внедрила Content Credentials в свои популярные программы Photoshop, Lightroom, Illustrator, Express, Stock, Behance, а также в нейросеть Firefly. Технология используется в фотоаппарате Leica M11-P, будет использоваться в новых моделях фотоаппаратов Sony и Nikon, нейросети Bing Image Creator компании Microsoft, появится в смартфонах благодаря процессору Snapdragon 8 Gen 3 компании Qualcomm.

В феврале в координационный комитет С2PA вошла компания Google, а 7 мая, за два дня до объявления TikTok об автоматической маркировке – OpenAI. 8 мая Open AI анонсировала созданный ей инструмент обнаружения изображений, созданных с помощью DALL-E 3, и защищенный от несанкционированного доступа водяной знак.

Таким образом, если кто-то загрузит на TikTok контент, созданный с помощью продукции любой компании, использующей технологию Content Credentials, например с помощью нейросети DALL-E 3 или Bing Image Creator, такой контент будет автоматически промаркирован как созданный с помощью ИИ (AI-generated).

В интервью агентству Reuters руководитель отдела операций, доверия и безопасности TikTok Адам Прессер отметил: «У нас также действуют политики, запрещающие немаркированный реалистичный ИИ-контент, так что если реалистичный ИИ-контент появится на платформе, мы его снимем как нарушающий правила сообщества».

Не только TikTok

В феврале 2024 года Meta объявила, что «в ближайшие месяцы» начнет маркировать созданный с помощью ИИ-контент в соцсетях Facebook**, Instagram** и Threads**. В сообщении компании отмечалось, что это будет делаться, «когда мы заметим стандартные для индустрии индикаторы, что это сгенерировано с помощью ИИ». Логично предположить, что стандарт индустрии – это и есть технология Content Credentials. Такой контент (фото, видео и аудио) будет маркироваться плашкой «Сделано с помощью ИИ» (Made with AI). В апреле Meta изменила свои политики в отношении такого контента. В сообщении компании говорилось, что она будет оставлять его большую часть в своих соцсетях, чтобы не ограничивать свободу выражения мнений. Контент с плашками должен, по мнению Meta, служить информационным и образовательным целям. В случае, если будет признано, что контент может создавать высокий риск введения людей в заблуждение по важным вопросам, к плашке «Сделано с помощью ИИ» будет добавляться пояснение, предоставляющее пользователям дополнительную информацию. Судя по самой свежей новости Meta на тему ИИ, компания совсем не против синтетического контента. 7 мая Meta представила расширенный набор инструментов генеративного ИИ для рекламодателей.

В марте компания Google потребовала, чтобы при загрузке видео на YouTube его создатели сообщали, использовались ли технологии ИИ для создания или изменения контента. Нарушителям пригрозили снятием видео с платформы, разрывом партнерского соглашения и другими карами. При этом в сообщении отмечалось, что это лишь «первые шаги» по выполнению взятых на себя компанией обязательств по ответственному отношению к ИИ.

Как считает заместитель председателя Комитета Госдумы по информационной политике, информационным технологиям и связи Антон Горелкин, в российские онлайн-сервисы необходимо внедрить механизм пользовательской маркировки контента, созданного искусственным интеллектом. В своем аккаунте в соцсетях он написал, что многочисленные прогнозы о том, что в ходе кампании по выборам президента России будут широко использоваться технологии искусственного интеллекта не оправдались. Однако, по его мнению, широкое использование сгенерированых ИИ дипфейков – это вопрос времени. «Нужна ли в этом контексте единая платформа для выявления информации, сгенерированной нейросетями, идею которой сейчас прорабатывает Минцифры? Безусловно, да. Учитывая, что рабочие решения уже существуют (ранее об их создании заявляли АНО «Диалог Регионы», «Сбер» и НЦКР), министерству стоит изучить опыт их применения, оценить эффективность, чтобы использовать какую-то из них в качестве базы для будущей государственной платформы, а не разрабатывать ее с нуля», – отметил депутат Горелкин.

* признана экстремистской организацией и запрещена в РФ

** продукт компании Meta (признана экстремистской организацией и запрещена в РФ)