30.05.2023, 18:17

Разработчики искусственного интеллекта не хотят вымирать

Искусственный интеллект может привести к вымиранию людей на Земле, предупреждают его создатели. Новое обращение к человечеству подписали десятки ученых, инженеров и глав ведущих технологических компаний. Среди них генеральный директор Google DeepMind, создатель Bard, Демис Хассабис, генеральный директор OpenAI, разработчик ChatGPT, Сэм Альтман, а также Джеффри Хинтон и Юшуа Бенжио — двое из трех исследователей нейросетей, получивших в 2018 году за свои изыскания премию Тьюринга. Предыдущее предостережение с участием Илона Маска и Стива Возняка не возымело действия.

Image by Gerd Altmann from Pixabay

Искусственный интеллект не лучше пандемии и ядерной войны

Заявление опубликовано на сайте некоммерческой организации Center for AI Safety (Центр ИИ-безопасности) из Сан-Франциско. В отличие от прошлого воззвания сегодняшнее максимально лаконично: «Снижение риска вымирания (человечества) из-за ИИ должно быть глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война».

«Краткость сегодняшнего заявления, в котором не предлагаются какие-либо потенциальные способы смягчения угрозы, исходящей от ИИ, была нужна, чтобы избежать разногласий», — прокомментировал The New York Times обращение исполнительный директор Центра ИИ-безопасности Дэн Хендрикс. По его словам, существует очень распространенное даже в ИИ-сообществе заблуждение, что угрозой человечеству со стороны ИИ озабочена лишь небольшая группа думеров. «Но на самом деле многие люди в частном порядке выражали озабоченность по поводу этой ситуации», — поделился Хендрикс.

Первое письмо людей против машин

Сегодняшнему обращению предшествовало открытое письмо некоммерческой организации Future of Life, опубликованное в конце марта. Тогда подписанты призвали разработчиков хотя бы на полгода приостановить гонку «цифровых умов», поскольку она представляет опасность для человечества. Свои подписи под заявлением оставили более 27 000 ученых и предпринимателей, среди которых были глава SpaceX Илон Маск, соучредитель Apple Стив Возняк и филантроп Эндрю Янг. «В случае невозможности достижения договоренности создатели петиции предлагают вмешаться в ситуацию правительствам и ввести мораторий на подобные работы», — говорилось в письме.

Чего опасаются ИИ-алармисты

Эксперты разделили ИИ-риски на три группы.

— Краткосрочный риск: дезинформация

Поскольку ИИ-системы предоставляют информацию, которая кажется абсолютно достоверной, при их использовании бывает сложно отделить правду от вымысла. Эксперты также обеспокоены тем, что люди будут злоупотреблять ИИ-системами для распространения дезинформации. Поскольку нейросети могут разговаривать как люди, они могут быть удивительно убедительными. «Теперь у нас есть системы, которые могут взаимодействовать с нами посредством естественного языка, и мы не можем отличить настоящее от подделки», — поделился опасениями в своем интервью The New York Times доктор Юшуа Бенжио, один из ведущих специалистов по машинному обучению.

— Среднесрочный риск: потеря работы

Эксперты обеспокоены тем, что ИИ может занять рабочие места людей. Сейчас такие технологии, как GPT-4, как правило, дополняют людей. Но OpenAI признает, что они могут заменить некоторых работников, в том числе тех, кто модерирует контент в интернете. Технологии пока не могут дублировать работу юристов, бухгалтеров или врачей. Но они могли бы заменить помощников юристов, личных ассистентов и переводчиков. «Уже сейчас есть признаки того, что рутинная работа исчезнет», — сказал Орен Этциони, основатель и исполнительный директор Алленовского института искусственного интеллекта.

— Долгосрочный риск: потеря контроля

Некоторые эксперты считают, что умные программы-помощники могут со временем выйти из-под контроля людей и впоследствии их уничтожить. Они говорят, что разработчики могут создать новые риски, если позволят мощным генеративным системам запускать собственный код, что даст им «непредвиденные возможности». «Если вы посмотрите на прямую экстраполяцию того, где мы находимся сейчас, и на три года вперед, все может выглядеть довольно странно», — описал возможные неприятности Энтони Агирре, космолог и физик-теоретик из Калифорнийского университета. По его словам, если ИИ-системы окажутся более мощными, чем мы думали, тогда «все станет действительно безумным».

Авторы:
Артемий Шохор
Редакция ADPASS
Главное про маркетинг и рекламу
в Telegram

Вам понравится

Редакция ADPASS
11.03.2024
Редакция ADPASS
06.03.2024
Редакция ADPASS
04.03.2024
Редакция ADPASS
01.03.2024