Убийственный интеллект: Илон Маск, Стив Возняк, инженеры и ученые призывают остановить нейросети в развитии

Восторг и умиление возможностями ChatGPT сменились страхом перед машиной с «человеко-конкурентным интеллектом». Глава SpaceX Илон Маск, соучредитель Apple Стив Возняк, филантроп Эндрю Янг и еще 1100 инженеров, исследователей и предпринимателей подписали письмо-предостережение, опубликованное на сайте некоммерческой организации Future of Life. Подписанты призывают разработчиков ИИ хотя бы на полгода приостановить гонку «цифровых умов», поскольку она представляет опасность для человечества. Одновременно с алармистским прогнозом выступил банк Goldman Sachs, по оценке которого развитие ИИ-технологий приведет к увольнению 300 млн человек по всему миру. Но бигтехи не беспокоятся о будущем: в Google, Microsoft и Amazon активно расформировывают подразделения по этике искусственного интеллекта.

В открытом письме ИИ-лабораториям от более чем 1100 исследователей, инженеров и предпринимателей говорится, что «системы искусственного интеллекта, конкурирующие с человеком, могут представлять серьезную опасность для общества и человечества». Продвинутый ИИ может запустить глубокие изменения в истории жизни на Земле, пишут авторы обращения и напоминают, что «его (ИИ) следует разрабатывать и управлять им с соразмерной тщательностью и ресурсами». «В последние месяцы лаборатории искусственного интеллекта увязли в неконтролируемой гонке по разработке и развёртыванию все более мощных „цифровых умов“, которые никто — даже их разработчики — не могут понять, работу которых не могут прогнозировать или надёжно контролировать», — описывают ситуации создатели петиции.

«Поэтому мы призываем все лаборатории ИИ немедленно приостановить как минимум на 6 месяцев обучение систем ИИ более мощных, чем GPT-4», — говорится в письме. Авторы обращения призывают сделать «всеобщую и контролируемую» паузу в разработке ИИ, в которой должны принять участие все ключевые участники рынка. В случае невозможности достижения договоренности создатели петиции предлагают вмешаться в ситуацию правительствам и ввести мораторий на подобные работы.

Полностью с обращением Future of Life можно ознакомиться здесь.

Страхи напуганных лавинообразным развитием ИИ гуманистов-исследователей разделяют и финансисты. Аналитики банка Goldman Sachs предупредили, что в результате развития ИИ-технологии более 300 млн человек в США и развитых странах могут остаться без работы. В отчете банка говорится, что меньше всего пострадают представители профессий, связанных с физическим трудом. А больше всего стоит волноваться административным работникам и юристам. По мнению аналитиков банка, ИИ сможет выполнять работу 7% американцев, чей труд можно полностью автоматизировать — например, административных работников. Также в банке спрогнозировали, что 63% американцев ИИ-технологии принесут пользу, помогая более эффективно выполнять работу, автоматизируя рутинные задачи. А вот 30% жителей США, чья работа связана с физическим трудом, ИИ ничем не угрожает. Одновременно в Goldman Sachs предположили, что «генеративные системы искусственного интеллекта, такие как ChatGPT, способные создавать контент, неотличимый от человеческого труда, могут вызвать бум производительности, который в конечном итоге приведет к увеличению годового мирового валового внутреннего продукта на 7% за 10-летний период».