Первый Брин комом: основатель Google признал, что компания «накосячила» с ИИ-помощником Gemini

Отец-основатель Google Сергей Брин, редко появляющийся на публике, откровенно ответил на вопросы, связанные с разработками искусственного интеллекта (ИИ), ИИ-помощником Gemini во время хакатона в Калифорнии. Он признал, что корпорация «накосячила» с генерацией картинок Gemini, который создавал изображения чернокожего Джорджа Вашингтован и солдат вермахта, мамы римской и американских индейцев-викингов. В то же время Сергея Брина не пугает резко замедлившийся рост доходов Google от рекламы: он сказал, что со временем бизнес-модель компании может измениться, но он «меньше других озабочен» этими изменениями.

Левый уклон Gemini

Запуск ИИ-модели Gemini в чат-боте Bard (позднее переименованном в Gemini) состоялся в декабре 2023 года. Первые отклики на его появление были более чем восторженными. Журнал Wired писал, что новый продукт делает Google лидером разработок в сфере ИИ и может оказаться самым крупным достижением компании со времен алгоритма ссылочного ранжирования PageRank (благодаря которому мир научился гуглить, а Google стала тем, чем она стала).

1 февраля этого года ИИ-помощник Gemini начал создавать картинки по текстовому запросу. И почти сразу выяснилось, что некоторые картинки выглядят, мягко говоря, исторически неточно, а порой и оскорбительно. В числе отцов-основателей США, по версии Gemini, оказался афроамериканец. Чернокожим был и Джордж Вашингтон. Папы римские, которых изображал ИИ-помощник, принадлежали к разным этносам, а некоторые были скорее мамами римскими – женщинами. Викинги, оказывается, могли быть американскими индейцами, а в армии Гитлера могли – служить афроамериканцы.

Поднялась шумиха в прессе и в интернете. Илон Маск в собственной соцсети Х (экс-Twitter) назвал выдачу Gemini «расистской». 23 февраля вице-президент Google Прабхакар Рагхаван признал ошибку. Функция создания изображений людей в Gemini была «временно отключена».

ИИ-галлюцинации

Говоря о проблемах Gemini на хакатоне в AGI House, состоявшемся в Хиллсборо, штат Калифорния, основатель Google признал: «Мы определенно накосячили (messed up) с генерированием изображений. Я считаю, что это произошло в основном из-за недостаточно тщательного тестирования». По его словам, еще не совсем понятно, «почему во многих случаях происходит уклон влево», но это «не входило в наши намерения».

Сергей Брин также указал, что ИИ-продукты конкурентов, такие как ChatGPT компании OpenAI и Grok (чат-бот, связанный с соцсетью X Илона Маска) также периодически «выдают что-то странное», что может восприниматься как «крайне левое» (в политическом смысле).

Уже после отключения в Gemini возможности генерировать изображения людей, на сайте Axios появилась статья, в которой приводились примеры подобных «исторически неточных» картинок, созданных генератором изображений Imagine AI компании Meta*. На этих изображениях в профессиональный американский футбол играли женщины, а первыми колонистами в Северной Америке оказались азиатки.

«Галлюцинации» (странные, ошибочные ответы ИИ-продуктов) являются, на взгляд Сергея Брина, большой проблемой. «Мы делаем так, чтобы со временем они галлюцинировали все меньше и меньше, и я безусловно буду рад видеть прорыв на уровень, близкий к нулю. Но мы не можем рассчитывать на прорыв, так что, думаю, мы продолжим предпринимать дополнительные меры, чтобы с течением времени их снижать, снижать, снижать», – сказал он.

Брин говорил не только о Gemini

Был задан вопрос о том, как влияет на бизнес Google замедляющийся в последние годы рост доходов от интернет-рекламы. Если в 2021 году они выросли на 46%, то в 2022 году – всего на 7%, в 2023 году – и вовсе на 6% (в 2023 году реклама принесла Google $237,86 млрд).

Сергей Брин ответил обтекаемо, сказав, что «меньше других озабочен изменениями бизнес-модели». «Думаю, это прекрасно, что мы существуем уже 25 лет, и, что бы ни происходило, мы способны предоставлять всем возможность бесплатного поиска информации на мировом уровне, и это поддерживается рекламой», – отметил предприниматель. Он ожидает, что «бизнес-модели со временем изменятся». Но, возможно, «все еще будет существовать реклама», потому что она «может работать лучше, и ИИ способен лучше ее настраивать».

Въедливые собеседники напомнили отцу-основателю Google о проблемах не только с программным обеспечением (software), но и с аппаратными средствами (hardware) – очками дополненной реальности Google Glass. Компания дважды пыталась выводить такой продукт на рынок – ограниченным тиражом в 2013 году (проект был закрыт в 2015 году) и доработанную версию Google Glass Enterprise Edition 2 в 2019 году (производство прекращено в марте 2023 года). Брин признал, что принимал неверные решения и следовало относиться к очкам Google Glass не как к продукту, а как к прототипу. Признав, что выпускаемые конкурентами гарнитуры смешанной реальности Apple Vision Pro and Quest headsets «производят впечатление», Брин заметил, что он все еще «фанат более легкого по весу продукта».

На вопрос о том, как Gemini может повлиять на пространственные вычисления или такие продукты Google как «Карты» и «Просмотр улиц», Брин ответил: «Честно говоря, я об этом еще не думал, но раз уж вы заговорили, то у нас нет причин не добавить 3D. Возможно, кто-то этим занимается в Gemini – я не знаю».

* Признана экстремистской организацией и запрещена в РФ.