Мозги на аутсорсе: использование ИИ ослабляет разум
Голосовые ассистенты, чат-боты, обобщение поисковиками информации с разных страниц в исчерпывающие справки — ИИ уже сегодня может составить за людей расписание дня, написать письмо и ответить на любой вопрос. По сути он начинает мыслить за людей. Ученые выснили, что чем больше люди используют ИИ в работе, тем реже они применяют критическое мышление, а способность к непредвзятому анализу фактов ослабевает. О том, куда это может завести, — в материале ADPASS.
Как ИИ влияет на сознание
Новое исследование специалистов Microsoft и Университета Карнеги — Меллона, опубликованное в конце января, показывает, что по мере роста зависимости людей от генеративного ИИ в профессиональной деятельности они все реже прибегают к критическому мышлению. Это, в свою очередь, «может привести к ухудшению когнитивных способностей, которые следовало бы поддерживать».
Одним из ключевых парадоксов автоматизации является то, что, механизируя рутинные задачи и оставляя обработку исключительных случаев на усмотрение человека, вы лишаете его регулярных возможностей тренировать свое суждение и укреплять когнитивную «мускулатуру”, что со временем приводит к ее атрофии и неподготовленности, когда действительно возникает необходимость справляться с исключениями», — отмечают исследователи.
В исследовании приняли участие 319 работников умственного труда, которые предоставили 936 примеров использования генеративного ИИ в своей работе. Им предложили заполнить анкету, в которой необходимо было указать, какие инструменты и запросы они используют, насколько они доверяют возможностям ИИ в выполнении конкретных задач, насколько уверены в своей способности оценивать качество работы ИИ, а также в своей компетентности выполнять ту же задачу без помощи ИИ.
Среди приведенных в исследовании примеров — учитель, использующий генератор изображений DALL-E для создания иллюстраций к школьной презентации о гигиене рук; трейдер, применяющий ChatGPT для генерации рекомендаций по новым ресурсам и стратегиям, которые должны развить его навыки торговли; медсестра, проверяющая сгенерированную ChatGPT брошюру для пациентов с недавно диагностированным диабетом.
В целом участники исследования отметили: чем больше они доверяли ИИ выполнение задачи, тем меньше, по их собственным наблюдениям, задействовали критическое мышление. Если же их уверенность в результатах ИИ была ниже, они активнее оценивали, корректировали и улучшали его работу, а также старались минимизировать возможные ошибки.
«Данные показывают изменение характера когнитивной нагрузки по мере того, как специалисты переходят от выполнения задач к контролю за их исполнением при помощи генеративного ИИ, — говорится в исследовании. — Несмотря на повышение эффективности, ИИ может снижать уровень вовлеченности и критического осмысления, особенно при выполнении рутинных или низкорисковых задач, где пользователи полностью полагаются на ИИ. Это вызывает обеспокоенность по поводу долгосрочной зависимости и ослабления способности к самостоятельному решению проблем».
Манипулировать потребителями станет проще
Маркетологи и ретейлеры давно используют когнитивные уязвимости потребителей для управления их выбором. Предотвратить рациональный анализ призвана эмоциональная реклама с создающими сенсорные перегрузки яркими образами, громкими слоганами и предупреждениями вроде «предложение ограничено». Когнитивная усталость переводит людей в режим «автомата», поэтому в конце рабочего дня или после долгого просмотра контента пользователи чаще совершают импульсивные покупки. Когнитивная леность проявляется в доверии к первым попавшимся вариантам — маркетологи используют это, продвигая товары через значки «лучший выбор», «популярный товар» или «подобрали для вас», облегчая решение и снижая вероятность поиска альтернатив. Эти механизмы особенно эффективны в онлайн-среде, где алгоритмы часто подстраивают рекламу под уставших или отвлеченных пользователей.
Кроме того, исследование выявило, что пользователи, имеющие доступ к генеративному ИИ, получают, выполнив задачу, менее разнообразные результаты по сравнению с теми, кто работает без помощи ИИ. «Такая тенденция к схождению отражает недостаток личного, контекстного и критического осмысления выдаваемых ИИ решений, что можно рассматривать как ухудшение критического мышления», — уверены авторы исследования.
Ученые также выявили ряд факторов, влияющих на уровень критического осмысления и внимательность к результатам работы ИИ. Например, люди, испытывающие нехватку времени, склонны меньше анализировать качество выдачи, тогда как специалисты, работающие в «высокорисковых сценариях и сферах», больше задумываются о возможных последствиях ошибок ИИ и, соответственно, задействуют критическое мышление активнее.
ИИ касается всех
Критическое мышление — это способность анализировать, оценивать и синтезировать информацию для принятия обоснованных решений. Люди с высокими показателями критического мышления, согласно научным исследованиям, добиваются лучших результатов в учебе, успешнее справляются с работой и менее подвержены манипуляциям.
Может показаться, что эта способность необходима не всем и не всегда —, но это не так. Сравнивая условия ипотечных кредитов или автомобильных страховок, выбирая товары в супермаркете или на маркетплейсе, решая как добраться в нужное место — на метро, или на такси, планируя рабочий день для максимальной эффективности, размышляя о смысле фильма или книги — мы тоже мыслим критически.
Большинство не знает о проникновении нейросетей
Согласно недавнему исследованию Gallup и Telescope, 99% жителей США хотя бы раз в неделю используют продукты, которые не смогли бы работать без ИИ — голосовых ассистентов, навигационные приложения, рекомендации в стримингах или соцсетях и т.п. Однако почти две трети респондентов оказались не в курсе, что цифровой разум уже выполняет за них повседневные задачи: ответили утвердительно на вопрос об использовании за последние семь дней ИИ-инструментов только 36% опрошенных. При этом среди обладателей диплома колледжа или университета осведомленных о степени проникновения ИИ в нашу жизнь ненамного больше — 47%.
ИИ уже давно обогнал людей в скорости выполнения этих и многих других задач — и теперь стремительно догоняет людей в качестве результатов. Его использование становится нормой. С момента запуска в 2022 году ChatGPT взлетел в рейтингах и стал восьмым по посещаемости сайтом в мире, а также четвертым по популярности приложением на iPhone. По состоянию на начало января у этого ИИ-инструмента насчитывалось 300 миллионов активных пользователей в неделю и 123,5 миллиона активных пользователей в день.
Как отмечают авторы работы, ограничивать применение ИИ во имя спасения нашего мыслительного потенциала было бы преждевременным. Они напоминают, что человечество всегда пользовалось возможностью переложить на новые технологии часть когнитивной нагрузки, и подобные опасения возникали при появлении каждой значимой технологической новации — начиная с изобретения письменности.
«Генеративный ИИ […] — это лишь последний в длинной череде инструментов, вызывающих вопросы о влиянии технологий на качество человеческого мышления, — пишут авторы. — В этот ряд входят письмо (которое критиковал Сократ), печатный станок (против которого выступали многие интеллектуалы XV-XVI вв.), калькуляторы (которым сопротивлялись учителя арифметики) и интернет».
Выводы о вреде искусственного интеллекта делать рано
Влияние на когнитивные функции интернета и гаджетов стало интересовать ученых более 10 лет назад. Дискуссию запустило в 2011 году широко обсуждавшееся в СМИ исследование. Там утверждалось: мы все чаще делегируем функции памяти цифровым сервисам, что ведет к деградации способности запоминать (и вспоминать) информацию. Но попытки двух других групп ученых воспроизвести результаты этой работы оказались неудачными — «эффект Google», хотя поверить в его существование очень легко, оказался неуловимым. Выводы исследователей Microsoft о воздействии ИИ на критическое мышление пока не успели получить независимого подтверждения —, но это наверняка не последнее исследование на эту тему.
Microsoft, как одна из крупнейших IT-компаний и ключевой инвестор OpenAI, объективно заинтересована в ускоренном развитии генеративного ИИ —, но и стремится избежать критики в связи с его возможными негативными эффектами. Вероятно, поэтому представляющие компанию исследователи предлагают учитывать проблему ослабления критического мышления при разработке ИИ-систем.
«Инструменты генеративного ИИ можно снабжать функциями, способствующими обучению пользователей, — например, объяснять логику решений ИИ, рекомендовать варианты доработки ответов или анализировать ошибки, — отмечают исследователи. — Эти функции могут укреплять ключевые навыки критического мышления, такие как анализ аргументации или проверка фактов по авторитетным источникам. Такой подход позволит позиционировать ИИ не как замену мышлению, а как партнера в развитии профессиональных навыков».
Новости
Неделя рекламы 
Кейсы 
How to 
Интервью и дискуссии 
Маркетинговые исследования 
Просто о сложном 
Энциклопедия обмана 
Проверено ADPASS 
Рекламные кампании