Римский папа и безопасники предупреждают, писатели-фантасты осуждают: что нового в мире ИИ
Специалисты по кибербезопасности не способны нормально контролировать использование ИИ-агентов в их компаниях. Такой вывод следует из отчета 2026 CISO AI Risk Report, подготовленного компанией Cybersecurity Insiders. О других рисках генеративного искусственного интеллекта заявил 24 января в своем послании папа римский Лев XIV. Между тем, американские писатели-фантасты и организаторы фестиваля развлечений и комиксов ComicCon единым фронтом выступили за ограничение использования ИИ в творчестве.
ИИ бесконтрольно вмешивается в бизнес-процессы
Экспансия ИИ-технологий вызывает серьезную озабоченность у специалистов по информационной безопасности (ИБ). Проведенный компанией Cybersecurity Insiders опрос 2026 CISO AI Risk Report, в котором приняло участие более 200 директоров по информбезопасности (CISO) и других профессионалов этой сферы, показал следующее.
Подавляющее большинство (71%) опрошенных заявили, что ИИ-агенты имеют доступ к ключевому программному обеспечению, такому как Salesforce (облачная платформа для управления взаимоотношениями с клиентами) и SAP (автоматизированная система управления предприятием). И только каждый шестой респондент (16%) признал, что этим доступом удается эффективно управлять. В результате ИИ получает такой уровень доступа и автономии, который никогда бы не предоставили человеку.
75% респондентов обнаруживали несанкционированные ИИ-инструменты, работающие в их средах, зачастую со встроенными учетными данными или повышенным доступом к системам, за которым никто не следит.
83% кибербезопасников признают, что их беспокоит доступ ИИ к системе их компании. Почти половина опрошенных (47%) уже наблюдали, как агенты ИИ демонстрировали нежелательное или несанкционированное поведение. За последний год треть организаций столкнулась с реальным инцидентом в сфере безопасности или такой инцидент удалось предотвратить в последний момент.
Ответы на вопрос: «Обнаруживали ли в вашей организации тайное или несанкционированное использование инструментов генеративного ИИ/больших языковых моделей?». Сверху вниз: да, в значительной степени; да, ограниченное использование; нет; не уверены в ответе. Комментарий справа: 75% директоров по информационной безопасности обнаруживали в компьютерных системах организации несанкционированные ИИ-инструменты.
В 92% организаций специалисты по ИБ не обладают полной видимостью действий ИИ-идентичностей. 95% опрошенных сомневаются, что смогут обнаружить совершенное ИИ-агентом злоупотребление, если оно произойдет. ИИ уже действует в средах, которые большинство команд безопасности не могут отслеживать.
По мере ускорения развития ИИ риск будет только возрастать.
Папа римский Лев XIV предупреждает об опасностях генеративного ИИ.
Папа римский против ИИ-алгоритмов
24 января, в день литургической памяти св. Франциска Сальского, покровителя церковных СМИ, Папа Лев XIV обнародовал послание на 60-й Всемирный день социальных коммуникаций. В документе звучит призыв беречь человеческие лица и голоса в эпоху цифровых технологий и искусственного интеллекта. В тексте сказано, что подлинная коммуникация рождается из ответственности, уважения к достоинству человеческой личности и верности истине. Текст послания публикует сайт Vatican news. Приводим выдержки из этого послания:
«Мы не являемся видом, состоящим из заранее прописанных биохимических алгоритмов: каждый человек обладает незаменимым и неповторимым призванием, которое раскрывается в течение жизни и проявляется именно в общении с другими.
Если этого не сберечь, цифровая технология рискует радикально изменить некоторые из фундаментальных столпов человеческой цивилизации, которые мы порой принимаем как должное. Имитируя человеческие голоса и лица, мудрость и знания, осознанность и ответственность, эмпатию и дружбу, системы, известные как искусственный интеллект, не только вмешиваются в информационные экосистемы, но и вторгаются на самый глубокий уровень коммуникации — уровень отношений между людьми».
«Уже давно очевидно, что алгоритмы, разработанные для максимального вовлечения в социальные сети — что прибыльно для платформ — вознаграждают быстрые эмоции и, напротив, пренебрегают теми человеческими чертами, которые требуют времени, такими как усилия для понимания и размышления. Замыкая группы людей в пузырях легкого согласия, эти алгоритмы ослабляют способность внимать и критически мыслить, усиливая социальную поляризацию.
К этому в ряде контекстов добавилось чрезмерное и лишенное критического осмысления доверие к искусственному интеллекту, который воспринимается как своего рода всеведущий `друг`, раздатчик всякой информации, хранилище всех воспоминаний, оракул` любого совета. Такое отношение может ослабить нашу способность мыслить аналитически и креативно, понимать смысл, различать синтаксис и семантику.
Хотя ИИ способен оказывать поддержку и помощь в решении коммуникативных задач, отказ от усилий собственного мышления в пользу результатов искусственной статистической компиляции чреват в долгосрочной перспективе размытием наших когнитивных, эмоциональных и коммуникативных способностей.
В последние годы системы искусственного интеллекта все активнее берут на себя также производство текстов, музыки и видео. Значительная часть человеческой креативной индустрии рискует быть разрушенной и замененной ярлыком Powered by AI (`Создано при помощи ИИ`), превращая людей в пассивных потребителей неосмысленных мыслей, анонимных продуктов, лишенных авторства и любви. При этом шедевры человеческого гения в области музыки, искусства и литературы сводятся к простому тренировочному материалу для машин».
ИИ — не фантастика
В вопросе влияния ИИ-технологий на креативные индустрии с главой римско-католической церкви соглашаются и многие деятели этих индустрий. Организаторы некоммерческого многожанрового фестиваля индустрии развлечений и комиксов Comic-Con в Сан-Диего и Американская ассоциация писателей-фантастов (Science Fiction and Fantasy Writers Association, SFWA) в последнее время независимо друг от друга приняли похожие решения.
В декабре 2025 года SFWA объявила об обновлении правил присуждения премии «Небьюла» — ассоциация фактически допустила к участие в конкусе тексты, написанные с помощью ИИ. В новых правилах говорилось, что произведения, полностью созданные с использованием больших языковых моделей (LLM), не будут допущены к участию, а авторы, использовавшие LLM «на любом этапе процесса написания», должны будут сообщать об этом, позволяя членам жюри самостоятельно решать, влияет ли это использование на оценку произведения, выдвинутого на премию.
Писатель-фантаст Джейсон Сэнфорд, многократный финалист «Небьюла» и премии Филипа Киндреда Дика (двух из трех главных премий в научной фантастике) в своем информационном письме сообщил, это изменение вызвало немедленную негативную реакцию его собратьев по перу. Писатели посчитали, что новые правила открывает двери для произведений, частично созданных с использованием LLM. Совет директоров SFWA несколько дней спустя принес извинения, написав: «Наш подход и формулировка были неверны, и мы приносим извинения за причиненные неудобства и недоверие».
Правила были пересмотрены снова. В последней версии в них говорится, что работы, «написанные полностью или частично с использованием генеративных инструментов на основе больших языковых моделей (LLM), не допускаются» к участию в конкурсе «Небьюла», и что работы будут дисквалифицированы, если LLM использовались на любом этапе их создания.
На Comic-Con в Сан-Диего в 2006 году был представлен андроид с внешностью Филипа Дика. Двадцать лет спустя на фестивале могли появится «творческие» работы, созданные ИИ.
Похожая история произошла с подготовкой к ежегодному фестивалю индустрии развлечений и комиксов Comic-Con в Сан-Диего. Художники обратили внимание на то, что правила фестиваля разрешают демонстрацию, но не продажу, работ, созданных с помощью технологий искусственного интеллекта. После их жалоб правила были незаметно изменены и теперь гласят: «Материалы, созданные искусственным интеллектом (ИИ) частично или полностью, не допускаются на фестиваль».
Новости
Неделя рекламы 
Кейсы 
How to 
Интервью и дискуссии 
Маркетинговые исследования 
Просто о сложном 
Энциклопедия обмана 
Проверено ADPASS 
Рекламные кампании