Разработчики искусственного интеллекта не хотят вымирать

Чего опасаются ИИ-алармисты

Эксперты разделили ИИ-риски на три группы.

— Краткосрочный риск: дезинформация

Поскольку ИИ-системы предоставляют информацию, которая кажется абсолютно достоверной, при их использовании бывает сложно отделить правду от вымысла. Эксперты также обеспокоены тем, что люди будут злоупотреблять ИИ-системами для распространения дезинформации. Поскольку нейросети могут разговаривать как люди, они могут быть удивительно убедительными. «Теперь у нас есть системы, которые могут взаимодействовать с нами посредством естественного языка, и мы не можем отличить настоящее от подделки», — поделился опасениями в своем интервью The New York Times доктор Юшуа Бенжио, один из ведущих специалистов по машинному обучению.

— Среднесрочный риск: потеря работы

Эксперты обеспокоены тем, что ИИ может занять рабочие места людей. Сейчас такие технологии, как GPT-4, как правило, дополняют людей. Но OpenAI признает, что они могут заменить некоторых работников, в том числе тех, кто модерирует контент в интернете. Технологии пока не могут дублировать работу юристов, бухгалтеров или врачей. Но они могли бы заменить помощников юристов, личных ассистентов и переводчиков. «Уже сейчас есть признаки того, что рутинная работа исчезнет», — сказал Орен Этциони, основатель и исполнительный директор Алленовского института искусственного интеллекта.

— Долгосрочный риск: потеря контроля

Некоторые эксперты считают, что умные программы-помощники могут со временем выйти из-под контроля людей и впоследствии их уничтожить. Они говорят, что разработчики могут создать новые риски, если позволят мощным генеративным системам запускать собственный код, что даст им «непредвиденные возможности». «Если вы посмотрите на прямую экстраполяцию того, где мы находимся сейчас, и на три года вперед, все может выглядеть довольно странно», — описал возможные неприятности Энтони Агирре, космолог и физик-теоретик из Калифорнийского университета. По его словам, если ИИ-системы окажутся более мощными, чем мы думали, тогда «все станет действительно безумным».