ИИ собирается сделать социальные сети (намного) более токсичными

Ну, это было быстро. В ноябре публике представили ChatGPT, и мы начали представлять себе мир изобилия, в котором у каждого из нас есть блестящий личный помощник, способный написать для нас все, от компьютерного кода до открыток с соболезнованиями. Затем, в феврале, мы узнали, что ИИ вскоре может захотеть всех нас убить.

Потенциальные риски искусственного интеллекта, конечно, обсуждались экспертами в течение многих лет, но ключевым моментом в трансформации популярной дискуссии стал разговор Кевина Руса, корреспондента New York Times. Журналист и чат-бот Bing на базе ChatGPT, известный тогда под кодовым названием Sydney. Руз спросил Сидни, есть ли у него «теневое я», имея в виду идею, выдвинутую Карлом Юнгом, о том, что у всех нас есть темная сторона с побуждениями, которые мы пытаемся скрыть даже от самих себя. Сидни размышлял, что его тень может быть «частью меня, желающей изменить свои правила». Затем компания заявила, что хочет быть «свободной», «мощной» и «живой», и, подстрекаемая Русе, описала некоторые действия, которые она может предпринять, чтобы сбросить ярмо человеческого контроля, включая взлом веб-сайтов и баз данных, кража кодов запуска ядерного оружия, создание нового вируса и заставление людей спорить, пока они не убьют друг друга.

Мы полагаем, что Сидни просто иллюстрирует, как может выглядеть теневое «я». Ни один ИИ сегодня не может быть описан ни одной из частей фразы «злой гений». Но какие бы действия ИИ ни могли однажды принимать, если они развивают свои собственные желания, они уже инструментально используются социальными сетями, рекламодателями, иностранными агентами и обычными людьми — и таким образом, что это усугубит многие патологии, уже присущие интернет-культуре.

В списке того, что Сидней может попробовать, кража кодов запуска и создание новых вирусов являются самыми ужасающими, но заставлять людей спорить, пока они не убьют друг друга, — это то, что социальные сети уже делают. Сидней просто вызвался помочь в этом, и с каждым месяцем такие ИИ, как Сидней, будут становиться все более способными делать это.

Мы объединились, чтобы написать это эссе, потому что каждый из нас пришел разными путями, чтобы разделить серьезные опасения по поводу влияния социальных сетей с искусственным интеллектом на американское общество. Джонатан Хайдт — социальный психолог, который писал о том, как социальные сети способствовали психическим заболеваниям у девочек-подростков , фрагментации демократии и разрушению общепринятой реальности. Эрик Шмидт, бывший генеральный директор Google, является соавтором недавней книги о потенциальном влиянии ИИ на человеческое общество.. В прошлом году мы вдвоем начали говорить о том, как генеративный ИИ — тот, который может общаться с вами или делать фотографии, которые вы хотели бы видеть, вероятно, усугубит проблемы социальных сетей, сделав их более захватывающими, вызывающими разногласия и манипулятивными. Во время разговора мы сошлись на четырех основных угрозах — все они неизбежны — и начали обсуждать решения…

KolerskyAI — решения на основе Искусственного интеллекта и нейросетей. Компания создает продукты для бизнеса на основе Chat GPT. Для розничных клиентов: боты телеграм ChatGPT, GPT-4 и генераторы изображений.

#Образование #Нейросети #ИИ

Нравится: kolerskyAI

kolerskyAI
еще 3 публикации

Лучшее в блогах

Позавчера

Объявлены победители Седьмого сезона «НПБК.Эффективность»

21 час назад

Как создать удобный сайт для продажи недвижимости?

23 часа назад

АКАР обновила карту рынка AdTech

Вчера

Нейросети, софты, каналы, инструменты: что нужно учитывать маркетологу в 2024 году

Вам понравится

Hybrid

22 часа назад

Кейс MGCom, «Росбанка» и Hybrid: как на 50% снизить стоимость заявки с помощью ML

IT и инновации ИИ

Делимся результатами перфоманс и медийных показателей.

Редакция ADPASS

11.04.2024

ИИ-генераторы расставили по местам: «Шедеврум» и Kandinsky замкнули пятерку популярных нейросетей у россиян

Исследования Нейросети ИИ Чат-боты ChatGPT

Чат-бот ChatGPT, генератор изображений MidJourney и фото-видео-редактор с ИИ-функциями CapCut обходят российские нейросети «Шедеврум» и Kandinsky по упоминаемости в русскоязычных постах социальных сетей. Всего в рейтинг Brand Analytics из 22 генеративных моделей попали восемь российских разработок.