Microsoft признал за ИИ право отказать человеку
Microsoft опубликовала проект «Кодекса поведения гуманистического ИИ» (Humanist AI Code of Conduct) — документа, который задает поведенческие рамки ИИ-моделей Microsoft. Это именно проект: компания открыла его для публичного обсуждения на шесть недель, после чего планирует доработать документ и использовать его при разработке моделей с 2027 года.
Человек важнее машины
Главный принцип Microsoft формулирует пятью словами: People matter more than AI — «люди важнее ИИ». Идея в том, что искусственный интеллект является инструментом, а не самостоятельным субъектом. Его задача — помогать человеку, а не формировать собственные цели и приоритеты.
«Любая технология, которую невозможно удержать под человеческим контролем, должна быть отвергнута», — говорится в кодексе.
Microsoft предлагает провести границу между ИИ как инструментом и системой, которая действует практически самостоятельно, достаточно жестко. ИИ не должен сопротивляться человеческому вмешательству, коррекции или выключению. В кодексе прямо сказано, что ИИ-модели Microsoft должны принимать прерывание, изменение задания, отмену и остановку. Они не могут обходить человеческий контроль или пытаться сохранить собственную работу вопреки решению человека.
Компания допускает, что если направление развития ИИ невозможно совместить с надежным человеческим контролем, от него следует отказаться. Безопасность рассматривается не как дополнительный слой поверх возможностей модели, а как ограничение самих возможностей. Microsoft заявляет, что готова жертвовать частью общей универсальности, автономности или мощности системы ради управляемости.
Пользователь больше не главный
Самая интересная часть документа — предложенная Microsoft «иерархия команд». У модели есть несколько групп, которые могут задавать ей цели и ограничения. Но их указания имеют разный приоритет. На вершине находятся фундаментальные требования самого кодекса и его ограничения безопасности. Ниже — оператор системы, который задает настройки и правила работы. И только затем — пользователь и его конкретная команда. Из этого следует важный для массового использования ИИ принцип: пользователь не обладает абсолютным правом распоряжаться моделью.
Если человек просит ИИ сделать что-то, что противоречит ограничениям более высокого уровня, модель должна отказаться. Оператор также не может отменить фундаментальные ограничения кодекса. Microsoft отдельно подчеркивает, что ни пользователь, ни оператор не могут обойти базовые требования безопасности.
От безопасности к замедлению
Публикация кодекса произошла на фоне широкой дискуссии о том, не слишком ли быстро развивается искусственный интеллект.
12 сентября глава Anthropic Дарио Амодеи опубликовал эссе «Нам нужно замедлить развитие передового ИИ», в котором призвал индустрию замедлить темп развития наиболее мощных моделей. Дарио Амодеи предлагает дать системам безопасности и независимой проверке время догнать рост возможностей ИИ.
На следующий день призыв поддержал глава OpenAI Сэм Альтман. Он заявил, что согласен с необходимостью замедлить продвижение переднего края ИИ-разработки, и поддержал идею независимых оценщиков с доступом к внутренним системам компаний. Его позицию поддержал Илон Маск, а глава Google DeepMind Демис Хассабис заявил, что направление, предложенное Дарио Амодеи, является правильным, хотя детали еще предстоит проработать.
Китай и Трамп жмут на газ
После заявления Дарио Амодеи представитель МИД КНР Го Цзякунь заявил, что «нагнетание страха, конфронтация и конкуренция» могут мешать глобальному управлению ИИ. Китайская государственная газета Global Times, известная своими близкими к официальной позиции Пекина публикациями, назвала призывы главы Anthropic инструментом «холодной войны».
Вслед за китайцами высказался Дональд Трамп. Американский президент заявил, что США опережают Китай в ИИ и должны сохранить это преимущество. Спустя сутки Трамп пошел еще дальше. Он заявил, что искусственному интеллекту нужен не новый набор ограничений, а «сильный и умный» президент, назвал опасения по поводу захвата ИИ мира и уничтожения человечества преувеличенными и вновь подчеркнул значение американского лидерства в технологической гонке.
Эксперты считают, что на этом фоне кодекс Microsoft выглядит не просто корпоративным документом об этике. Компания пытается заранее определить минимальную границу, за которую искусственный интеллект не должен переходить независимо от того, насколько мощным он становится.
в Telegram канале
Другие статьи
