Регулировщики нейросетей. Родина ИИ Калифорния разрабатывает множество законов по его ограничению

Технология искусственного интеллекта почти не регулируется властями. Если дать ИИ волю, он будет дискриминировать меньшинства при трудоустройстве, лишит работы тех, кто ее уже имеет, создавать педофильские и политические дипфейки, а в конце концов устроит глобальную катастрофу. На борьбу с этими угрозами поднялись законодатели штата Калифорния – самого ИИ-продвинутого региона планеты.

Вся Америка хочет регулировать ИИ

По данным торговой ассоциации, объединяющей ведущих разработчиков программного обеспечения Business Software Alliance (BSA), в 2023 году в законодательных органах штатов было рассмотрено около 200 законопроектов по регулированию ИИ. Только около десяти из них обрели силу закона. В этом году число таких законопроектов уже превысило 400. Почти половина из них касается дипфейков, в том числе порнографических. Популярны также законопроекты, направленные на то, чтобы чатботы не отвечали на запросы, представляющие опасность для общества – например, не давали инструкции по изготовлению самодельных взрывных устройств.

ИИ не принимает на работу

По оценкам Комиссии США по равным возможностям трудоустройства, 83% работодателей используют алгоритмы ИИ при подборе персонала. У крупнейших компаний, входящих в рейтинг Fortune 500, этот показатель составляет 99%. Так как ИИ для оценки резюме соискателей тренируют на старых резюме, нейросеть перенимает дискриминационные практики прошлого. Подобные автоматические решения, ущемляющие чьи-то права, могут также использоваться при рассмотрении с помощью ИИ заявлений на аренду жилья и оказания медицинской помощи.

В феврале 2024 года в легислатуру штата Калифорния был внесен законопроект AB 2930. Он направлен на борьбу с «алгоритмической дискриминацией», то есть принятыми автоматически решениями о трудоустройстве, в результате которых ущемляются права претендентов по признаку расы, цвета кожи, национальности, пола, инвалидности, статуса ветерана.

Для изменения ситуации предлагаются следующие меры. Компании, использующие ИИ-инструменты для принятия решений, должны информировать людей о факте использования ИИ. Разработчики ИИ-технологий обязаны проверять свои модели на возможную предвзятость. Прокуратура штата должна иметь право расследовать случаи алгоритмической дискриминации и налагать на виновных штраф в размере $10 тыс. за каждый факт нарушения.

ИИ лишает работы

Калифорния – это не только Кремниевая долина, это еще и Голливуд. Работники киноиндустрии уже доказывали, что готовы с помощью забастовки отстаивать свои права перед лицом ИИ, готового отнять у них работу.

В феврале 2024 года в легислатуру штата Калифорния поступил законопроект, поддержанный Калифорнийской федерацией труда

и Гильдией киноактеров США. Смысл билля – запретить использовать созданные с помощью ИИ-технологий цифровые копии внешности и голоса киноактера или актера озвучки без информированного согласия их обладателя, выраженного в присутствии адвоката или представителя профсоюза.

В прошлом году аналогичный законопроект умер при обсуждении в комитете, теперь законодатели предприняли вторую попытку сделать его законом.

В январе 2024 года наследники стендапера Джорджа Карлина, скончавшегося в 2008 году, подали в суд на компанию, создавшую с помощью ИИ-технологии аудиофейк длительностью около часа «Джордж Карлин: я рад, что умер». Законодателей Калифорнии эта история сподвигла на поданный в марте билль о введении ответственности о «цифровом клонировании» мертвых знаменитостей без разрешения их наследников.

ИИ растлевает малолетних и использует грязные политтехнологии

В сентябре 2023 года в Южной Корее был вынесен первый в мировой истории приговор по уголовному делу о сгенерированной с помощью ИИ порнографии с издевательствами над несовершеннолетними. За создание 360 подобных фото виновный был осужден на 2,5 года тюрьмы. В Калифорнии, как и в других штатах США, создавать, хранить и распространять такие изображения закон не запрещает, поскольку на них не присутствуют реально существующие люди. Законодатели хотят исправить это упущение, введя за такие деяния уголовную ответственность.

После хорошо известной истории с робозвонками с голосом президента Байдена, законодатели не могли обойти стороной и тему политических дипфейков. На эту тему разработано уже два законопроекта. Согласно одному из них социальные сети должны обязательно маркировать контент политической тематики, созданный с использованием ИИ. Другой билль направлен на запрет «вводящих в серьезное заблуждение» дипфейков, связанных с выборами, в почтовых рассылках, робозвонках и телевизионной рекламе в течение 120 дней до дня выборов и 60 дней после него.

ИИ готовит Апокалипсис

Особый интерес вызывает законопроект, который калифорнийские законодатели начали обсуждать в феврале 2024 года. Он предусматривает введение особо серьезного контроля над самыми ИИ-моделями, обладающих «опасным потенциалом», то есть способными причинить ущерб, связанный с химическим, биологическим или с ядерным оружием, или каким-то другим способом устроить катастрофу, размер ущерба от которой превысит $500 млн.. Для надзора за подобными ИИ-моделями необходимо будет создать специальное агентство, а в сами модели должна быть встроена «аварийная кнопка».

ИИ на госслужбе штата Калифорния

Любой законопроект, одобренный легислатурой, должен быть подписан губернатором, чтобы обрести силу закона. Губернатор Калифорнии Гэвин Ньюсом неоднократно заявлял, что намерен превратить штаб в глобальный хаб ИИ-технологий.

По словам губернатора, в его штате работают 35 из 50 ведущих компаний, занятых разработками технологий ИИ. Штаб-квартира

Google – в Маунтин-Вью, Nvidia – в Cанта-Кларе, OpenAI и Anthropic – в Сан-Франциско. А если посмотреть объявления о трудоустройстве в стартапы Кремниевой долины, то к 35 ведущим добавятся сотни начинающих компаний.

Губернатор Ньюсом в 2023 году подписал исполнительный приказ о начале работы над использованием генеративного ИИ с целью улучшения качества предоставляемых населению услуг. В начале мая 2024 года власти штата объявили о партнерстве с пятью компаниями, занимающимися ИИ. В течение шести месяцев эти компании вместе с государственными службами будут тестировать новые инструменты. После этого власти штата решат, будет ли ИИ использоваться в сферах с низким уровнем риска, например, бороться с пробками на дорогах и давать советы по налоговому законодательству. Конфиденциальную информацию и личные данные нейросетям не доверят.