Чат-боты на службе пиратов: как новостные фермы используют достижения ИИ

Как агрегаторы контента используют чат-боты

Агрегаторы контента, копирующие и публикующие информацию без ссылок на первоисточник, появились еще на заре интернета. Исследователей интересовали те из паразитов, что маскируют плагиат при помощи чат-ботов.

Согласно отчету, 37 сайтов опубликовали статьи, содержащие текст, фотографии и цитаты, идентичные заметкам, ранее опубликованным New York Times, Reuters и CNN. Это были контент-фермы, пылесосящие свежий виральный контент со всего рынка СМИ, особенно из рубрик «Стиль жизни» с названиями вроде DailyHeadliner.com и TalkGlitz.com. Задача таких «изданий» — собирать поисковый трафик. В таких материалах не упоминались ни издания, ни авторы оригинальной публикации. И, что важно для исследования, их обрабатывал ИИ.

Контент-фермы не заметают следы воровства и присутствия ИИ

Сайты из отчета NewsGuard нигде не упомянули, использовали ли они нейросети, такие как ChatGPT или Google Bard, которые могут генерировать осмысленный текст в ответ на короткую письменную подсказку. Google запрещает использование своего генеративного ИИ для создания и распространения «контента, предназначенного для дезинформации, искажения или введения в заблуждение», в том числе путем представления контента, сгенерированного ИИ, так, как если бы он был создан человеком, или как оригинальный, «с целью обмана». OpenAI тоже вроде бы запрещает плагиатить при помощи ChatGPT.

По ним NewsGuard и обнаружил присутствие искусственного интеллекта. Например, в 17 статьях, опубликованных за последние шесть месяцев на сайте GlobalVillageSpace.com, редакторы или копирайтеры не подтерли стандартные фразы чат-ботов и сообщения об ошибках ИИ. В одном материале сайта использовались те же изображения и цитаты, что и в майской статье New York Times о таланте профессионального футболиста Даррена Уоллера как музыканта.

GlobalVillageSpace.com убрал это после того, как с ним связался NewsGuard, но у исследователей остался снимок экрана первоначального текста, который также можно найти в кэше поисковых систем. NewsGuard сообщила о найденных нарушениях New York Times и другим издателям, чей контент был незаконно перепечатан на 37 обследованных ресурсах.