В Instagram* добавили ИИ-генератор, рисующий фейковые фото

Meta* запустила Muse Image — генератор изображений, встроенный прямо в принадлежащие корпорации соцсети и мессенджер WhatsApp. Шаг является очередной попыткой сократить отставание от OpenAI, Google и Anthropic. При этом обнаружилось, что с помощью нейросети можно подделывать фото других пользователей без их ведома.

«Muse Image выступает творческим партнером, который знает ваш мир, позволяя легко превращать ваши идеи в качественные визуальные образы», — говорится в блоге Meta. Одним нажатием сервис реставрирует старое семейное фото, примеряет на пользователя модную прическу или превращает его в пластилинового персонажа.

Догнать любой ценой

Muse Image уже работает в Instagram* Stories для американских пользователей и частично в WhatsApp, скоро дойдет и до Facebook*. В приложении Meta AI новинка заменит технологию стартапа Midjourney, с которым компания сотрудничала раньше. Через несколько недель доступ к модели получат рекламодатели, а в ближайшие месяцы выйдет видеогенератор Muse Video.

Ставки велики: не сумев победить конкурентов в ИИ-гонке прошлой весной Марк Цукерберг потратил миллиарды на перестройку профильного подразделения, а в этом году Meta намерена вложить в ИИ до 145 млрд долларов — параллельно увольняя тысячи сотрудников, чтобы компенсировать расходы. Флагманский чат-бот Muse Spark, вышедший в апреле, пока уступает конкурентам, но директор Meta по ИИ Александр Ван на встрече с персоналом заявил, что готовящаяся модель с внутренним названием Watermelon выйдет на уровень новейших разработок OpenAI.

Фото пользователя как материал

Журналист Gizmodo Майк Перл проверил, как Muse Image обращается с чужими данными. Чат-бот сгенерировал ему изображения Марка Цукерберга, знакомого из Instagram и даже человека, с которым он никогда не взаимодействовал в соцсети.

По данным Wired, для публичных аккаунтов такая опция включена по умолчанию — Instagram уже обновил страницу справки с соответствующим предупреждением. Отключить функцию можно, сделав профиль закрытым для незнакомцев или убрав галочки в разделе «Sharing and reuse» в настройках приложения.

В Meta на запрос Gizmodo ответили, что у Muse Image есть встроенная защита от генерации жестоких, сексуализированных и клеветнических изображений реальных людей, а нарушающий правила контент удаляется по стандартам сообщества. Доверие к таким обещаниям, впрочем, подрывает недавняя история: месяц назад ошибка в ИИ-системе клиентской поддержки Meta позволила хакерам атаковать более 34 000 аккаунтов Instagram.

* Корпорация Meta признана экстремистской и запрещена в РФ

** Соцсети Facebook и Instagram признаны экстремистскими и запрещены в РФ

Авторы:

Николай Белый