ИИ врет: В эпоху нейросетей многие подростки не доверяют фейковому контенту и бигтеху
Как минимум 41% американских подростков сталкивались с фейковым контентом. Семь из десяти после этого изменили свой подход к информации в онлайне. 39% подростков обращали внимание на то, что в школьной работе, сделанной с помощью генеративного искусственного интеллекта, может присутствовать фейковый контент. Эти и другие данные приводятся в исследовании «Подростки, доверие и технология в эпоху ИИ», опубликованном американской организацией Common Sense Media.
Подростки часто сталкиваются с фейковым контентом
В какой степени генеративный ИИ влияет на доверие подростков к информации, лежащей в основе нашего взаимодействия и понимания окружающего мира и самих себя? Ответу на этот вопрос посвящено исследование, подготовленное Common Sense Media, основанное на данных опроса американских подростков.
41% опрошенных заявили, что им попадался фейковый контент — фотографии или видео, которые выглядели настоящими, но вводили в заблуждение. Еще 13% ответили, что какой-то контент вызывал у них подозрение, но они не смогли проверить свои догадки. Только каждый четвертый (25%) сказал, что не сталкивался с подобным. Остальные (21%) были не уверены в ответе.
Каждый третий подросток (35%) признался, что его сбил с толку ложный контент. Еще у 11% есть подобные подозрения.
28% респондентов сталкивались, а 13% возможно сталкивались с ситуацией, когда им было непонятно, с кем они общаются — с человеком или чат-ботом.
22% опрошенных делились, а еще 10% возможно делились контентом, который, как впоследствии выяснилось, был фейковым.
19% (и, возможно, еще 12%) наталкивались на аккаунт в соцсети, захваченный чат-ботом.
Голос и фото 5% опрошенных (и, возможно, еще 4%) использовались для создания фейкового контента.
Фейки подрывают доверие к онлайн-контенту
Подавляющее большинство подростков, столкнувшихся с фейковым контентом в той или иной форме, изменили свой подход к информации в онлайне и стали проверять, насколько она точна и соответствует действительности. В зависимости от того, какой именно тип фейкового контента стал причиной изменения поведения, процент решивших проверять информацию, колеблется от 67% до 72%.
35% подростков считают, что из-за развития систем генеративного ИИ онлайн-информации стало сложнее доверять. Еще 24% полагают, что генеративный ИИ ничего не изменил. 22% думают, что благодаря чат-ботам им стало проще доверять онлайн-информации. 19% не уверены, как генеративный ИИ повлиял на точность информации.
Генеративный ИИ создает проблемы в школе, но не всем
Примерно четверо из десяти подростков (39%), использовавших генеративный ИИ при выполнении домашней работы, столкнулись с тем, что нейросеть врет. Подростки обнаружили проблемы или неточности в выдаче ИИ. 36% использовавших возможности искусственного интеллекта таких проблем не заметили. 25% не смогли определиться в вопросе о том, создает ли ИИ фейковый контент.
Полученный результат указывает на необходимость как улучшить качество работы ИИ, так и научить подростков критически оценивать созданный с помощью ИИ контент, в том числе контент, созданный в образовательных целях.
Большинство подростков не доверяет ведущим технологическим компаниям
Примерно шесть из десяти подростков считают, что ведущим технологическим компаниям (Google, Apple, Meta*, TikTok, Microsoft и т.д.) нельзя доверять в вопросе заботы о душевном здоровье и благополучии пользователей (так ответили 64% респондентов). В то, что эти компании будут защищать безопасность пользователей, если это нанесет ущерб их прибылям, не верят 62% опрошенных.
53% пользователей не верят, что IT-гиганты будут принимать этичные и ответственные решения, касающиеся дизайна их продуктов. 52% не верят, что крупные технологические компании будут надежно защищать персональные данные.
В вопросе, насколько можно доверять бигтеху в принятии ответственных решений по использованию ИИ, мнения разделились. 19% считают, что доверять нельзя вообще. 32% полагают, что в какой-то степени можно доверять. 28% думают, что доверять можно, но чуть-чуть. Полное доверие выразили лишь 7% опрошенных. А 14% оказались не уверены в ответе.
Чего же хотят подростки от ИИ? Три четверти опрошенных (74%) полагают, что очень важными вопросами являются защита конфиденциальности и прозрачность. Такое же число опрошенных заявили, что платформы генеративного ИИ не должны поощрять людей делиться личной информацией. 73% подростков высказались за то, чтобы созданный с помощью ИИ контент специально отмечался или снабжался водяными знаками.61% считают, что создатели контента должны получать компенсацию за обучение ИИ на таком контенте.
Common Sense Media
Common Sense Media (CSM, Common Sense) — американская некоммерческая организация. Основана в 2003 году. Основатель и генеральный директор — Джим Стейер. Основные направления деятельности: составление рейтингов фильмов, телепередач, подкастов, книги и других продуктов, связанных с развлечениями, с позиций оценки их пригодности для детей; разработка рекомендаций и образовательных материалов по использованию технологий в школьном образовании; финансирование исследований о роли средств массовой информации и технологий в жизни детей.
Как проводилось исследование
Данные исследования были получены в ходе общенационального репрезентативного опроса, в котором приняли участие 1045 взрослых граждан США (в возрасте 18 лет и старше), являющихся родителями или опекунами одного или нескольких подростков в возрасте от 13 до 18 лет, а также их дети-подростки (только один ребенок каждого родителя или опекуна). Все 18-летние респонденты все еще учились в средней школе. Опрос проводился онлайн на английском или испанском языке с марта по май 2024 года. Проведением опроса занималась компания Ipsos Public Affairs по заказу CSM.
Новости
Неделя рекламы 
Кейсы 
How to 
Интервью и дискуссии 
Маркетинговые исследования 
Просто о сложном 
Энциклопедия обмана 
Проверено ADPASS 
Рекламные кампании