Мода = это когда красиво !
Deep Agency в спорах об ИИ в индустрии моды
ИИ меняет отрасли промышленности – и это вполне объяснимо.
Дэнни Постма, основатель Headlime, стартапа по маркетинговому копированию на основе искусственного интеллекта, анонсировал Deep Agency, платформу, которую он описывает как «фотостудию и модельное агентство с искусственным интеллектом».
Используя искусственный интеллект, Deep Agency создает и предлагает в аренду «виртуальные модели» по цене от 29 долларов в месяц (в течение ограниченного времени), позволяя клиентам размещать модели на цифровом фоне для реализации своих фотосессий.
«Что такое Deep Agency? Это фотостудия с несколькими большими отличиями», — объяснила Postma в серии твитов.
"Не надо снимать. Никаких реальных людей. Никакого физического местоположения… Для чего это нужно? Множество вещей, таких как автоматизация контента для влиятельных лиц в социальных сетях, модели для рекламы маркетологов и фотографии продуктов электронной коммерции».
Deep Agency находится на этапе проверки концепции. Создание модели Deep Agency сложно контролировать; попробуйте создать женскую модель, одетую в определенный наряд, например, как полицейского, но Deep Agency просто не сможет этого сделать.
Тем не менее, реакция на запуск была быстрой и неоднозначной.
Некоторые пользователи твиттера аплодировали этой технологии, выразив заинтересованность в ее использовании для моделирования брендов одежды. Другие обвинили Postma в том, что она придерживается «глубоко неэтичной» бизнес-модели, собирая фотографии и изображения других людей и продавая их с целью получения прибыли.
Этот разрыв отражает более широкую дискуссию по поводу генеративного искусственного интеллекта, который продолжает привлекать ошеломляющие объемы финансирования, одновременно поднимая множество моральных, этических и юридических проблем.
По данным PitchBook, инвестиции в генеративный ИИ достигнут $42,6 млрд в 2023 году и взлетят до $98,1 млрд к 2026 году, что отразится на доходах художников, которым не выплачивается справедливая компенсация.
Postma не стесняется того факта, что платформа может конкурировать с реальными моделями и фотографами и, возможно, нанести вред их средствам к существованию.
В то время как некоторые платформы, такие как Shutterstock, создали фонды для распределения доходов от произведений искусства, созданных искусственным интеллектом и живыми художниками, Deep Agency не предприняло такого шага — и не подало сигнала о своем намерении.
Через несколько недель после дебюта Deep Agency Levi's объявила, что будет сотрудничать с дизайн-студией LaLaLand.ai для создания индивидуальных моделей, генерируемых искусственным интеллектом, чтобы «увеличить разнообразие моделей, которые покупатели могут увидеть в ее продукции».
В Levi’s подчеркнули, что планируют использовать синтетические модели наряду с человеческими моделями и что этот шаг не повлияет на планы найма сотрудников. Но это вызвало вопросы о том, почему бренд не нанял больше моделей с разнообразными характеристиками, которые он ищет, учитывая трудности, с которыми эти модели сталкивались при поиске возможностей в индустрии моды. (По данным одного опроса, по состоянию на 2016 год 78% моделей в модной рекламе были белыми.)
Ос Киз, аспирант Вашингтонского университета, изучающий этический ИИ, заметил, что моделирование и фотография — и искусство в целом — являются областями, особенно уязвимыми для генеративного ИИ, потому что фотографам и художникам не хватает структурности. Модели, например, часто страдают от высоких комиссионных агентств (около 20%), а также от деловых расходов, которые могут включать билеты на самолет, групповое жилье и рекламные материалы, необходимые для поиска работы с клиентами.
«Приложение Postma — если оно работает — с социально-экономической точки зрения предназначено для дальнейшего выделения и концентрации прибыли».
Другие критики не согласны с базовой технологией. Современные системы генерации изображений, подобные тем, которые использует Deep Agency, представляют собой так называемые «модели диффузии», которые учатся создавать изображения из текстовых подсказок (например, «набросок птицы, сидящей на подоконнике») по мере того, как они изучают данные, полученные из интернета. Тенденция диффузионных моделей, по существу, копирует и вставляет изображения — включая контент, защищенный авторским правом — из данных, которые использовались для их обучения.
Компании, коммерциализирующие модели распространения, уже давно заявляют, что «добросовестное использование» защищает их в том случае, если их системы были обучены на лицензионном контенте. (Закрепленная в законодательстве США доктрина добросовестного использования разрешает ограниченное использование материалов, защищенных авторским правом, без предварительного получения разрешения от правообладателя.)
Но художники утверждают, что модели нарушают их права, отчасти потому, что данные обучения были получены без их разрешения или согласия.
«Законность такого стартапа не совсем ясна, но ясно то, что он стремится лишить работы множество людей», — Майк Кук, специалист по этике искусственного интеллекта и член открытой исследовательской группы Knives and Paintbrushes. «Трудно говорить об этике подобных инструментов, не затрагивая более глубокие проблемы, связанные с экономикой, капитализмом и бизнесом».
Для художников, которые подозревают, что их произведения использовались для обучения модели Deep Agency, не существует механизма удаления этих произведений искусства из набора обучающих данных.
Это хуже, чем такие платформы, как DeviantArt и Stability AI, которые предоставляют художникам возможность отказаться от создания произведений искусства для обучения искусственного интеллекта, генерирующего искусство.
Deep Agency также не сообщило, рассмотрит ли оно вопрос об установлении доли дохода для художников и других людей, чья работа помогла создать модель платформы.
Другие поставщики, такие как Shutterstock, экспериментируют с этим, используя объединенный пул для возмещения средств авторам, чья работа используется для обучения художественных моделей ИИ.
Кук указывает на еще одну проблему: конфиденциальность данных.
Deep Agency предоставляет клиентам возможность создать модель «цифрового двойника», загрузив около 20 изображений человека в разных позах. Но загрузка фотографий в Deep Agency также добавляет их в данные обучения для моделей более высокого уровня платформы, если только пользователи впоследствии явно не удалят их, как указано в соглашении об условиях обслуживания.
В политике конфиденциальности Deep Agency не уточняется, как именно платформа обрабатывает загруженные пользователями фотографии и даже где она их хранит.
И, по-видимому, нет никакого способа помешать актерам-мошенникам создать виртуального двойника кого-то без их разрешения — опасения законные в свете несогласованных моделей дипфейков обнаженной натуры, таких как Stable Diffusion, которые были использованы для создания.
В их условиях использования фактически говорится: «Вы понимаете и признаете, что похожие или идентичные поколения могут быть созданы другими людьми, используя их собственные подсказки».
Идея продукта заключается в том, что каждый может иметь индивидуальные модели ИИ, которые каждый раз уникальны. На самом деле они признают возможность того, что вы можете получить точно такое же изображение, как и кто-то другой, и что ваши фотографии также будут переданы другим для потенциального использования. Трудно представить, чтобы многим крупным компаниям нравилась перспектива подобного.
Еще одна проблема с данными обучения Deep Agency — отсутствие прозрачности исходного набора. То есть неясно, на каких изображениях обучалась модель Deep Agency (хотя беспорядочные водяные знаки на изображениях дают подсказку), что оставляет открытой возможность алгоритмической предвзятости.
Растущее количество исследований выявило расовые, этнические, гендерные и другие формы стереотипов в ИИ, генерирующем изображения, в том числе в популярной модели Stable Diffusion, разработанной при поддержке Stability AI.
Исследователи из AI-стартапа Hugging Face и Лейпцигского университета опубликовали инструмент, демонстрирующий, что такие модели, как Stable Diffusion и OpenAI DALL-E 2, имеют тенденцию создавать изображения людей, которые выглядят белыми мужчинами, особенно когда их просят изобразить людей, обладающих властью.
По словам Хлои Сян из Vice, Deep Agency генерирует изображения женщин только до тех пор, пока вы не купите платную подписку — проблематичное предубеждение с самого начала. Более того, пишет Сян, платформа имеет тенденцию к созданию моделей белых блондинок, даже если вы выбираете изображение женщины другой расы или сходства в заранее созданном каталоге. Изменение внешнего вида модели требует внесения дополнительных, не столь очевидных корректировок.
«ИИ, генерирующий изображения, в корне ошибочен, поскольку он зависит от репрезентативности данных, на которых обучался ИИ. Если в него в основном входят белые, азиаты и светлокожие чернокожие».
Несмотря на явные проблемы с Deep Agency, подобные инструменты исчезнут в ближайшее время: в этой сфере просто слишком много денег.
Помимо Deep Agency и LaLaLand.ai, такие стартапы, как ZMO.ai и Surreal, привлекают крупные венчурные инвестиции в технологии, которые создают виртуальных моделей моды.
«Инструменты еще недостаточно хороши , как может видеть любой, кто использует бета-версию Deep Agency. Но это только вопрос времени. Предприниматели и инвесторы будут продолжать ломать голову над такими возможностями, пока не найдут способ заставить одну из них работать».