3D生成是生成式人工智能和计算机图形学领域最引人注目的话题之一,符合影视、游戏标准的3D生成尤其受产业界关注。在生产流程中,一般品类的3D资产往往通过手工建模或者扫描的方式制作。但作为3D资产的一个重要类别,服装资产的往往来源于平面板片与物理模拟等流程,而不是直接在3D上建模。
上海科技大学、影眸科技与宾夕法尼亚大学联合提出DressCode,它是首个完全支持 CG 操作,能够兼容到工业流程的 3D 服装生成框架,并通过文本的引导,实现自动生成具有高质量渲染效果、可编辑、可驱动、可仿真的 3D 服装。
Dresscode已经被计算机图形领域国际顶级期刊 Transactions on Graphics 接收,并将在国际计算机图形顶级会议 SIGGRAPH 2024 上展示。
引言
服装在人类外观中扮演着重要角色,这突显了服装数字化对于数字人创造的重要性。近期在 3D 内容创造领域的巨大进展对于数字人的创造至关重要。
然而,对于服装生成的工作仍有空缺,由于通用生成方法生成的网格或神经场与实际数字服装生产流程不兼容,使这类方法直接应用于服装类别并未能达到很好的效果。
为了解决这些问题,来自影眸科技与上海科技大学的研发团队提出了一个文本驱动的 3D 服装生成框架——DressCode,旨在为初学者设计数字服装简单化,并在时尚设计、虚拟试穿和数字人创造提供巨大潜力。
该框架可以通过自然语言交互生成对 CG 流程友好的服装模型,并且还便于版片补全和纹理编辑, 通过用户友好的交互简化了设计过程。本文将对 DressCode 的主要功能进行详细介绍,并探讨其在实际设计场景中的应用前景。
SewingGPT 框架概述
对于版片生成模块,该论文提出了 SewingGPT,这是一个基于 GPT 的自回归模型,用于通过文本提示生缝纫版片。其首先将缝纫版片参数转换为一系列量化的token,训练了一个 Decoder-only Transformer。并通过在Transformer中融合使用文本提示词的交叉关注力,来达到用文本来引导生成结果。
训练完成后,该模型可以根据用户条件自回归地生成token序列,并将生成的序列经过反向量化来得到生成的缝纫版片参数。
DressCode 框架概述
借助 SewingGPT,该框架能够直接从文本提示中生成多样化的缝纫版片。由于材质贴图在 CG 流程中非常关键,该框架为这些版片生成相应的基于物理的纹理,更紧密地与服装设计工作流程相契合。
作者们提出的DressCode框架,通过利用 SewingGPT 和 PBR 纹理生成器来生成3D服装的几何部分与纹理部分,并且进一步利用大型语言模型通过自然语言交互为用户创建定制服装。
在实现通过文本提示生成缝纫版片和纹理之后,为了在实际场景中使设计师能够使用自然语言与生成器交互,而不是依赖于数据集格式的提示,作者们采用 GPT-4 进行内容学习,以解释用户的自然语言输入,生成几何提示词和纹理提示词。
这些提示词输入到 SewingGPT 和 PBR 纹理生成器后,得到生成的缝纫版片与纹理,并经过仿真、渲染得到最终的结果。同时,生成的服装以及 PBR 纹理可以被无缝整合到工业软件中,可以与人体模型进行动画驱动,并在各种照明下进行渲染,确保生动、逼真的效果。
版片补全能力
得益于自回归模型,SewingGPT可以通过利用模型提供的概率预测,在接收到部分版片信息后补全整个缝纫版片。此外,输入一个文本提示可以指导模型补全缝纫版片。如给定一个袖子后, 该模型能够根据不同的提示补全完成各种缝纫版片。这使得用户能够手动设计部分版片,利用 SewingGPT 进行灵感激发并基于文本提示来补全服装。
纹理编辑能力
在近期大多 3D 生成任务中,无法产生结构化的 UV 映射是对实际应用场景一个重大障碍,尤其是在生成服装时,使其无法用于实际设计场景。本文提出的生成方法,利用缝纫版片表示,使得能够创建每个版片独特且结构化的 UV 映射。这也促使用户可以在特定位置便捷得编辑纹理,支持对纹理贴图进行高效的后处理。
应用和展望
DressCode 框架在与其他方法比较中取得了优异的成绩,该框架作为第一个基于缝纫版片的服装生成工作,能够让初学者和专业设计师都能通过简单的文本提示生成高质量的缝纫版片和 PBR 纹理,使服装设计流程大幅简单化。
DressCode 的易用性和创新方法有望推动数字服装的未来发展。这类以缝纫版片为基础的生成任务,将推动虚拟试穿、时尚设计和数字人创造的数字服装领域的发展,让我们共同期待。
文章来源于:微信公众号机器之心
【开源免费】n8n是一个可以自定义工作流的AI项目,它提供了200个工作节点来帮助用户实现工作流的编排。
项目地址:https://github.com/n8n-io/n8n
在线使用:https://n8n.io/(付费)
【开源免费】DB-GPT是一个AI原生数据应用开发框架,它提供开发多模型管理(SMMF)、Text2SQL效果优化、RAG框架以及优化、Multi-Agents框架协作、AWEL(智能体工作流编排)等多种技术能力,让围绕数据库构建大模型应用更简单、更方便。
项目地址:https://github.com/eosphoros-ai/DB-GPT?tab=readme-ov-file
【开源免费】VectorVein是一个不需要任何编程基础,任何人都能用的AI工作流编辑工具。你可以将复杂的工作分解成多个步骤,并通过VectorVein固定并让AI依次完成。VectorVein是字节coze的平替产品。
项目地址:https://github.com/AndersonBY/vector-vein?tab=readme-ov-file
在线使用:https://vectorvein.ai/(付费)
【开源免费】Fay开源数字人框架是一个AI数字人项目,该项目可以帮你实现“线上线下的数字人销售员”,
“一个人机交互的数字人助理”或者是一个一个可以自主决策、主动联系管理员的智能体数字人。
项目地址:https://github.com/xszyou/Fay
【开源免费】graphrag是微软推出的RAG项目,与传统的通过 RAG 方法使用向量相似性作为搜索技术不同,GraphRAG是使用知识图谱在推理复杂信息时大幅提高问答性能。
项目地址:https://github.com/microsoft/graphrag
【开源免费】Dify是最早一批实现RAG,Agent,模型管理等一站式AI开发的工具平台,并且项目方一直持续维护。其中在任务编排方面相对领先对手,可以帮助研发实现像字节扣子那样的功能。
项目地址:https://github.com/langgenius/dify
【开源免费】RAGFlow是和Dify类似的开源项目,该项目在大文件解析方面做的更出色,拓展编排方面相对弱一些。
项目地址:https://github.com/infiniflow/ragflow/tree/main
【开源免费】phidata是一个可以实现将数据转化成向量存储,并通过AI实现RAG功能的项目
项目地址:https://github.com/phidatahq/phidata
【开源免费】TaskingAI 是一个提供RAG,Agent,大模型管理等AI项目开发的工具平台,比LangChain更强大的中间件AI平台工具。
项目地址:https://github.com/TaskingAI/TaskingAI
【开源免费】LangGPT 是一个通过结构化和模板化的方法,编写高质量的AI提示词的开源项目。它可以让任何非专业的用户轻松创建高水平的提示词,进而高质量的帮助用户通过AI解决问题。
项目地址:https://github.com/langgptai/LangGPT/blob/main/README_zh.md
在线使用:https://kimi.moonshot.cn/kimiplus/conpg00t7lagbbsfqkq0
【开源免费】VideoChat是一个开源数字人实时对话,该项目支持支持语音输入和实时对话,数字人形象可自定义等功能,首次对话延迟低至3s。
项目地址:https://github.com/Henry-23/VideoChat
在线体验:https://www.modelscope.cn/studios/AI-ModelScope/video_chat
【开源免费】Streamer-Sales 销冠是一个AI直播卖货大模型。该模型具备AI生成直播文案,生成数字人形象进行直播,并通过RAG技术对现有数据进行寻找后实时回答用户问题等AI直播卖货的所有功能。
项目地址:https://github.com/PeterH0323/Streamer-Sales