10-процентная погибель: теперь от искусственного интеллекта вдвое чаще ждут крайне плохого

Хотя плоды прогресса в сфере искусственного интеллекта в ближайшие десятилетия будут скорее положительными, нельзя исключать и большой — свыше 10% — вероятности негативных сценариев, вплоть до исчезновения или порабощения человечества. К таким выводам пришли в калифорнийском исследовательском центре AI Impacts в ходе очередного исследования. За семь лет, прошедших с момента запуска проекта, число апокалиптически настроенных респондентов увеличилось вдвое: в 2016 году «крайне плохих» последствий ожидали всего 5% опрошенных.

ИИ-технологии пошли в отрыв

Специалисты калифорнийского исследовательского центра AI Impacts опросили в октябре 2023 года 2778 экспертов в области машинного обучения и искусственного интеллекта, чьи рецензированные публикации были представлены на шести крупнейших отраслевых конференциях. Их спрашивали о том, как будут развиваться подобные технологии в ближайшие десятилетия и к каким результатам для жителей Земли это приведет. Авторы вышедшей в январе публикации назвали свое исследование, вероятно, крупнейшим: в аналогичном опросе, который они провели в 2022 году, участвовали всего 700 человек.

Опрос показал, что за год, прошедший с момента выхода прорывного чат-бота ChatGPT от компании OpenAI, эксперты по ИИ стали ожидать более быстрого развития технологий в этой области. Усредненный прогноз по дате, к которой ИИ с 50-процентной вероятностью превзойдет человека во всех возможных задачах, обновлен: теперь она стала ближе на 13 лет — не 2060 год, а 2047-й. Прогноз о 50-процентной вероятности фактического замещения искусственным интеллектом людей на всех работах сдвинулся с 2164 года на 2116-й.

Респондентов просили оценить сроки, в которые ИИ превзойдет человека в выполнении конкретных операций. Эксперты ответили, что к 2027 году ИИ сможет создать фейковую песню любого артиста, в точности копируя голос и музыкальный стиль, к 2030-му — написать книгу, которая получит награду «Бестселлер New York Times», а к 2060-му — заменить самих исследователей в области ИИ.

ИИ-обман и ИИ-узурпация

Другая группа вопросов касалась рисков, связанных с появлением ИИ, превосходящего человеческие способности, и его повсеместным внедрением. В 2016 году, когда AI Impacts провел первый опрос такого рода, медианная оценка вероятности «крайне плохих» последствий — например, вымирания человечества, — составила 5%. Многие тогда назвали эту цифру завышенной и раскритиковали исследование. Оппоненты сочли невероятным, что среднестатический специалист связывает прогресс в данной технологической сфере с пятипроцентной вероятностью гибели человечества.

Семь лет спустя результаты опроса оказался еще более настораживающим. В 2023 году тема ИИ-рисков вышла на первый план, теперь ее обсуждают не только специалисты, но и правительства. 51,4% опрошенных оценили в 10% или более вероятность того, что в будущем (сроки в расчет не брались) человечество утратит контроль над продвинутыми ИИ-системами и что это приведет к исчезновению людей или потере ими возможности влиять на собственное будущее.

Но надо признать, что вероятности воплощения многих не столь катастрофических негативных сценариев эксперты оценивают как более высокие в горизонте ближайших 30 лет. Так, 82% испытывают крайнюю или значительную озабоченность риском широкомасштабного распространения дезинформации, например дипфейков.

Список страхов, связанных с внедрением ИИ-технологий, в которых признались более 60% участников опроса, выглядит следующим образом: усугубление экономического неравенства, создание злоумышленниками при помощи ИИ мощных и опасных инструментов (например, вирусов), а также рост дискриминации из-за предвзятости алгоритмов.

Более 80% считают «весьма вероятным» или «вероятным», что нейросети смогут выступать на уровне людей-экспертов по большинству тем и будут находить неожиданные пути к достижению поставленных перед ними целей. 60% считают, что ИИ можно будет взломать для выполнения задач, запрещенных разработчиками, 45% — что он будет иногда обманывать людей, а 40% — что у него появятся собственные цели, не совпадающие с целями человечества. Почти 20% уверены, что ИИ с вероятностью более 40% предпримет действия для захвата власти.

ИИ-оптимисты и ИИ-пессимисты

Авторы исследования не смогли однозначно разделить опрошенных на ИИ-оптимистов и ИИ-пессимистов. Многие из указавших высокую вероятность негативных последствий ИИ-революции одновременно дали столь же высокие оценки и хороших исходов. Разброс мнений наглядно иллюстрирует диаграмма (см. ниже). Вертикальные линии отражают оценку вероятностей одним из случайно выбранных 800 экспертов: от «крайне хороших», «в основном хороших» и «более-менее нейтральных», до «в основном плохих» и «крайне плохих».

Банальность полученного основного вывода авторы исследования маскируют рассуждениями о том, что крайне трудно прогнозировать последствия применения еще не существующей ИИ-технологии, которая превзойдет интеллектуальные возможности человека. Назвав эту неопределенность «поразительной», они постарались акцентировать внимание на том, что оптимизм в высказываниях все же доминирует: 68% опрошенных верят, что «преимущественно хорошие» последствия все же вероятнее плохих.