Чат-боты в законе: в Европарламенте приняли закон об искусственном интеллекте, а в ООН внесли резолюцию о нем же

Законодатели начали осваивать искусственный интеллект (ИИ). Депутаты Европарламента утвердили закон об искусственном интеллекте – Artificial Intelligence Act. Это первый в истории специализированный закон такого рода, регулирующий отношения в сфере использования ИИ. Свой закон о ИИ уже пишут в Китае. США, между тем, внесли в ООН проект резолюции Генеральной Ассамблеи об ИИ – также первой в истории. В России специализированного законодательства по ИИ пока нет: сферу регулируют с помощью Национальной стратегии развития ИИ, президентских указов и новых поправок в закон «О персональных данных», в которых идет речь об обучении моделей ИИ на обезличенных персональных данных.

Европейский закон о ИИ

Закон был принят вчера. За него проголосовали 523 депутата Европарламента, 46 голосовали против, 49 воздержались. В декабре прошлого года парламентарии от разных европейских стран достигли предварительного политического соглашения о необходимости принятия закона, который обеспечивал бы развитие технологий искусственного интеллекта в Европе при условии соблюдения фундаментальных прав человека и принципов демократии.

Новый закон вводит целый ряд ограничений. Согласно документу, будет запрещено: использование технологий ИИ, нарушающих права человека, в том числе нецелевое извлечение изображений лиц из интернета или записей камер видеонаблюдения для создания баз данных распознавания лиц; распознавание эмоций на рабочем месте и в школах; социальный рейтинг; предиктивная полицейская деятельность (основанная исключительно на профилировании человека или оценке его характеристик). Также будет запрещено использование технологий ИИ для манипулирования поведением человека или использования его уязвимости. Для правоохранительных органов будут сделаны строго оговоренные исключения. Так, использование систем распознавания лиц в реальном времени будет возможно только с ограничением по времени и месту применения и с предварительного разрешения административных или судебных органов (например, для поиска пропавшего человека или предотвращения теракта).

Отдельно оговариваются правила использования ИИ в сферах деятельности, связанных с высоким риском (критическая инфраструктура, образование, трудоустройство, здравоохранение, банковское дело, юриспруденция, миграционные службы, пограничный контроль, некоторые подразделения правоохранительных органов). Сюда отнесены также процессы, связанные с обеспечением демократии (например, выборы). Во всех этих сферах ИИ должен контролировать человек.

Системы и модели искусственного интеллекта общего назначения должны соответствовать принципам прозрачности. Необходимо соблюдать законы об авторском праве и публиковать обзоры контента, используемого для обучения таких систем. Изобразительный, фото- и видеконтент, созданный или измененный с помощью систем ИИ подлежит обязательной маркировке.

Граждане ЕС теперь имеют право подавать жалобы на системы ИИ и получать объяснения, касающиеся влияния на их права систем ИИ в сферах деятельности, связанных с высоким риском.

Закон об ИИ вступит в силу через 20 дней после дополнительной юридически-лингвистической проверки, формального одобрения Советом Европарламента и публикации в официальном журнале Евросоюза. Это должно произойти до окончания текущей парламентской сессии. Отдельные положения закона начнут применяться поэтапно – через 6, 9, 12, 18 и 24 месяца после вступления документа в силу.

Всесторонний закон о ИИ, подобный принятому Европарламенту, может быть принят в Китае. В июле 2023 года Всекитайское собрание народных представителей опубликовало список находящихся в работе законопроектов, в числе которых был и Закон об искусственном интеллекте. Проект разработала Китайская академия социальных наук. В январе 2024-го в журнале MIT Technology Review были опубликованы комментарии экспертов по этому поводу. Они сошлись во мнении, что принятия закона вряд ли следует ждать в этом году. В китайском проекте закона эксперты отметили интересное отличие – «черный список» направлений деятельности и продуктов, которые китайские разработчики должны избегать или заниматься ими только с разрешения правительства.

Американский проект резолюции об ИИ

Вчера также стало известно, что Соединенные Штаты внесли в Организацию объединенных наций (ООН) первую в истории этой структуры резолюцию по искусственному интеллекту. Авторы текста утверждают, что она направлена на то, чтобы технологии ИИ стали «безопасными, надежными и заслуживающими доверия», а все страны мира, в том числе развивающиеся, имели равный доступ к таким технологиям.

В проекте мало конкретики и много громких слов о глобальных процессах. По замыслу инициаторов резолюции, ее принятие должно способствовать устранению цифрового разрыва между странами, предоставлению всем странам возможности пользоваться преимуществами новых технологий в таких сферах как выявление заболеваний, прогнозирование наводнений и подготовка следующего поколения работников. Признается необходимость быстрого ускорения разработки и использования ИИ и подчеркивается «безотлагательность достижения глобального консенсуса в отношении безопасных, надежных и заслуживающих доверия систем искусственного интеллекта».

Советник президента США по национальной безопасности Джейк Салливан заявил, что США обратились к Генеральной Ассамблее, «чтобы провести по-настоящему глобальный разговор о том, как управлять последствиями быстро развивающейся технологии искусственного интеллекта».

Агентство Associated Press со ссылкой на высокопоставленного американского чиновника сообщило, что США начали переговоры со 193 странами-членами ООН около трех месяцев назад, потратили сотни часов на прямые переговоры с отдельными странами, 42 часа на переговоры и приняли предложения от 120 стран, сказал высокопоставленный американский чиновник. Резолюция должна быть официально рассмотрена в этом месяце.

Как в России регулируют ИИ

Национальная стратегия развития искусственного интеллекта на период до 2030 года была утверждена указом президента России № 490 еще в октябре 2019-го. 15 февраля этого года вышел новый президентский указом №124, который внес поправки в предыдущий и в Национальную стратегию – почти 40 страниц изменений и дополнений. В документе, в частности, говорится о создании комплексной системы нормативно-правового регулирования общественных отношений, связанных с развитием и использованием технологий ИИ, а также обеспечении безопасности применения таких технологий.

В поправках сказано, что права и свободы человека должны рассматриваться как высшая ценность. Развитие ИИ при этом не должно умалять право выбора и интеллектуальные способности человека. Использование для машинного обучения данных, касающихся лиц или групп лиц, не должно способствовать их умышленной дискриминации. В документе названы основные принципы такого регулирования: безопасность, гуманистический подход, уважение автономии и свободы воли человека, недискриминация, риск-ориентированный подход, не допускается делегирование системам ИИ ответственного нравственного выбора (в том числе способных повлиять на жизнь и здоровье человека) и делегирование ответственности за принятие решений.

Национальной стратегии соответствуют и поправки в закон «О персональных данных», который внесли в Госдуму в июле 2020 года. В феврале 2024-го на «Инфофоруме-2024» замминистра цифрового развития Александр Шойтов заявил, что этот законопроект может быть принят Госдумой уже в весеннюю сессию. Если это произойдет, то бизнесу и ведомства смогут обмениваться обезличенными персональными данными и обучать на собранных наборах данных (dataset) ИИ-модели. Поправки предусматривают прямой однозначный запрет на обработку больших данных, если это создает риски причинения вреда гражданам, обороне и безопасности. Внешний доступ к большим данным будет запрещен иностранным гражданам и компаниям с доминирующим иностранным участием.