IBM и Adobe показывают рыбов: риски ИИ для бизнеса разъяснили на рыбках-галлюцинациях

IBM и Adobe решили с помощью очень странных золотых рыбок рассказать в рекламе о рисках, связанных с невнимательным использованием генеративного ИИ. Так компании продвигают свои сервисы, обеспечивающие контроль над нейросетями и гарантирующие, что создаваемый ИИ контент не содержит ошибок. Это особенно важно для бизнеса, сегодня все чаще стремящегося при помощи генеративных нейросетей сократить затраты и повысить эффективность сотрудников. Работают над этой проблемой и в Google — там предлагают поставить на стражу достоверности нейросеть-фактчекера, умеющую пользоваться интернет-поиском.

Подводный мир галлюцинаций

Кампания IBM «Trust What You Create» («Доверяй тому, что создаешь») от агентства Ogilvy включает видеоролик, статичные изображения и даже размещение на Las Vegas Sphere во время проходившей в Лас-Вегасе на минувшей неделе конференции Adobe Summit. Целевая аудитория креатива — бренд-менеджеры и директора по маркетингу, под чьим руководством создается рекламный контент сразу для многих платформ. Первая задача кампании не столько коммерческая, сколько образовательная — объяснить самые распространенные проблемы нейросетевых генераторов, которыми все чаще пользуются маркетологи. Вторая — прорекламировать возможности ИИ-сервисов IBM Watsonx.ai и Adobe Firefly.

Таким образом подчеркивается заявляемая Adobe безопасность Firefly для использования в рекламе — модель разрабатывали с нуля с учетом того, что она не должна создавать изображений с характерными для других подобных сервисов странностями. При этом рыбки-галлюцинации были также сгенерированы при помощи Firefly.

ИИ спасает от рутины

Это не единственный креатив, освещающий партнерство IBM и Adobe в сфере генеративного ИИ. В начале марта в рамках бренд-кампании «Let’s Create» продвигался кейс использования Adobe Firefly дизайнерами маркетингового подразделения IBM в работе над этой самой кампанией. В IBM заявили, что с помощью простых текстовых запросов к Adobe Firefly им удалось за считаные минуты создать 200 изображений и 1000 их вариантов для разных форматов рекламы.

Традиционными методами — при помощи графических редакторов — эта работа заняла бы дни или даже месяцы, уверяют в компании. ИИ же позволяет избавить дизайнеров от рутины, высвободив дополнительное время для творчества. При этом по итогам анализа эффективности вовлечение пользователей оказалось в 26 раз выше ожидаемого, а 20% охваченной аудитории были идентифицированы как представители топ-менеджмента.

Нейросеть проверяет нейросеть

Свои подходы к лечению нейросетей от так называемых галлюцинаций (когда модель выдает ошибочные или просто бессмысленные ответы) разрабатывают и в Google. Специалисты из внутренней ИИ-лаборатории поисковика, DeepMind, опубликовали статью с описанием инновационного метода проверки результатов работы генеративного ИИ. Осуществляет проверку тоже большая языковая модель. Она разбивает сгенерированный текст на отдельные факты, а затем при помощи поисковых запросов в Google проверяет каждый из них на достоверность.

Разработка DeepMind показала неплохую эффективность. Исследователи сравнили результаты ее работы с набором из 16 тыс. фактов с результатами проверки, проведенной людьми. Как выяснилось, в 72% случаев искусственный интеллект справляется не хуже. Кроме того, проанализировав 100 случаев, когда результаты человеческого и машинного фактчекинга различались, исследователи установили: в 76% случаев права оказалась именно нейросеть.

В статье способности системы без ложной скромности назвали сверхчеловеческими. Критики сразу отметили, что характеристика некорректна: человеческие способности в сфере фактчекинга могут сильно различаться, у профессионального журналиста они куда выше, чем у работающего за копейки работника краудсорсинговой платформы для мониторинга контента.

Но исследователи из DeepMind не указали, какие именно специалисты соревновались с ИИ в проверке фактов. Возможно, модель действительно превосходит среднестатистического человека, однако профессионалы наверняка покажут лучшие результаты. Тем не менее исследование наглядно демонстрирует перспективы применения ИИ для модерации контента онлайн-платформ — IT-гиганты вроде Meta* с ее соцсетями или владеющего YouTube Google в теории смогут сэкономить огромные суммы, минимизировав использование в этой сфере человеческого труда.

*признана экстремистской и запрещена в РФ