ChatGPT 人工智能 GPT4 伦理 生成式 医疗 监管 安全 机器学习 深度学习 神经网络 计算机视觉 强化学习 模型 算法 应用 开发 研究 工具 平台 框架 数据集 训练 部署 安全 合规 培训 投资 LLM,llm AI,ai,Ai 大模型 大语言模型 制图 生图 绘图 文生图 文生视频 生成式AI AGI 世界模型 sora chatGPT,chatgpt,ChatGpt claude openai Llama deepseek midjourney 红熊猫模型 Red panda,panda Stable Diffusion,StableDiffusion,stable DALL- E 3 DALL E DALL Flux,flux 扩散模型 混元大模型 文心一言 通义千问 可灵 Pika PixelDance 豆包 月之暗面 零一万物 阶跃星辰 搜索增强 MiniMax Talkie Agent prompt fastai LangChain TTS 微调 提示词 知识库 智能体
# 热门搜索 #
搜索
SIGGRAPH2024|上科大、影眸联合提出DressCode:从文本生成3D服装板片
6162点击    2024-06-15 15:44

3D生成是生成式人工智能和计算机图形学领域最引人注目的话题之一,符合影视、游戏标准的3D生成尤其受产业界关注。在生产流程中,一般品类的3D资产往往通过手工建模或者扫描的方式制作。但作为3D资产的一个重要类别,服装资产的往往来源于平面板片与物理模拟等流程,而不是直接在3D上建模。


上海科技大学、影眸科技与宾夕法尼亚大学联合提出DressCode,它是首个完全支持 CG 操作,能够兼容到工业流程的 3D 服装生成框架,并通过文本的引导,实现自动生成具有高质量渲染效果、可编辑、可驱动、可仿真的 3D 服装。



Dresscode已经被计算机图形领域国际顶级期刊 Transactions on Graphics 接收,并将在国际计算机图形顶级会议 SIGGRAPH 2024 上展示。

 


  • 项目链接:https://sites.google.com/view/projectpage-dresscode
  • 论文链接:https://arxiv.org/abs/2401.16465


引言


服装在人类外观中扮演着重要角色,这突显了服装数字化对于数字人创造的重要性。近期在 3D 内容创造领域的巨大进展对于数字人的创造至关重要。


然而,对于服装生成的工作仍有空缺,由于通用生成方法生成的网格或神经场与实际数字服装生产流程不兼容,使这类方法直接应用于服装类别并未能达到很好的效果。


为了解决这些问题,来自影眸科技与上海科技大学的研发团队提出了一个文本驱动的 3D 服装生成框架——DressCode,旨在为初学者设计数字服装简单化,并在时尚设计、虚拟试穿和数字人创造提供巨大潜力。


该框架可以通过自然语言交互生成对 CG 流程友好的服装模型,并且还便于版片补全和纹理编辑, 通过用户友好的交互简化了设计过程。本文将对 DressCode 的主要功能进行详细介绍,并探讨其在实际设计场景中的应用前景。


SewingGPT 框架概述



对于版片生成模块,该论文提出了 SewingGPT,这是一个基于 GPT 的自回归模型,用于通过文本提示生缝纫版片。其首先将缝纫版片参数转换为一系列量化的token,训练了一个 Decoder-only Transformer。并通过在Transformer中融合使用文本提示词的交叉关注力,来达到用文本来引导生成结果。


训练完成后,该模型可以根据用户条件自回归地生成token序列,并将生成的序列经过反向量化来得到生成的缝纫版片参数。


DressCode 框架概述

 


借助 SewingGPT,该框架能够直接从文本提示中生成多样化的缝纫版片。由于材质贴图在 CG 流程中非常关键,该框架为这些版片生成相应的基于物理的纹理,更紧密地与服装设计工作流程相契合。


作者们提出的DressCode框架,通过利用 SewingGPT 和 PBR 纹理生成器来生成3D服装的几何部分与纹理部分,并且进一步利用大型语言模型通过自然语言交互为用户创建定制服装。


在实现通过文本提示生成缝纫版片和纹理之后,为了在实际场景中使设计师能够使用自然语言与生成器交互,而不是依赖于数据集格式的提示,作者们采用 GPT-4 进行内容学习,以解释用户的自然语言输入,生成几何提示词和纹理提示词。


这些提示词输入到 SewingGPT 和 PBR 纹理生成器后,得到生成的缝纫版片与纹理,并经过仿真、渲染得到最终的结果。同时,生成的服装以及 PBR 纹理可以被无缝整合到工业软件中,可以与人体模型进行动画驱动,并在各种照明下进行渲染,确保生动、逼真的效果。

 


版片补全能力


得益于自回归模型,SewingGPT可以通过利用模型提供的概率预测,在接收到部分版片信息后补全整个缝纫版片。此外,输入一个文本提示可以指导模型补全缝纫版片。如给定一个袖子后, 该模型能够根据不同的提示补全完成各种缝纫版片。这使得用户能够手动设计部分版片,利用 SewingGPT 进行灵感激发并基于文本提示来补全服装。



纹理编辑能力


在近期大多 3D 生成任务中,无法产生结构化的 UV 映射是对实际应用场景一个重大障碍,尤其是在生成服装时,使其无法用于实际设计场景。本文提出的生成方法,利用缝纫版片表示,使得能够创建每个版片独特且结构化的 UV 映射。这也促使用户可以在特定位置便捷得编辑纹理,支持对纹理贴图进行高效的后处理。



应用和展望


DressCode 框架在与其他方法比较中取得了优异的成绩,该框架作为第一个基于缝纫版片的服装生成工作,能够让初学者和专业设计师都能通过简单的文本提示生成高质量的缝纫版片和 PBR 纹理,使服装设计流程大幅简单化。



DressCode 的易用性和创新方法有望推动数字服装的未来发展。这类以缝纫版片为基础的生成任务,将推动虚拟试穿、时尚设计和数字人创造的数字服装领域的发展,让我们共同期待。


文章来源于:微信公众号机器之心


AITNT资源拓展
根据文章内容,系统为您匹配了更有价值的资源信息。内容由AI生成,仅供参考
1
AI工作流

【开源免费】n8n是一个可以自定义工作流的AI项目,它提供了200个工作节点来帮助用户实现工作流的编排。

项目地址:https://github.com/n8n-io/n8n

在线使用:https://n8n.io/(付费)


【开源免费】DB-GPT是一个AI原生数据应用开发框架,它提供开发多模型管理(SMMF)、Text2SQL效果优化、RAG框架以及优化、Multi-Agents框架协作、AWEL(智能体工作流编排)等多种技术能力,让围绕数据库构建大模型应用更简单、更方便。

项目地址:https://github.com/eosphoros-ai/DB-GPT?tab=readme-ov-file



【开源免费】VectorVein是一个不需要任何编程基础,任何人都能用的AI工作流编辑工具。你可以将复杂的工作分解成多个步骤,并通过VectorVein固定并让AI依次完成。VectorVein是字节coze的平替产品。

项目地址:https://github.com/AndersonBY/vector-vein?tab=readme-ov-file

在线使用:https://vectorvein.ai/(付费)

2
数字人

【开源免费】Fay开源数字人框架是一个AI数字人项目,该项目可以帮你实现“线上线下的数字人销售员”,

“一个人机交互的数字人助理”或者是一个一个可以自主决策、主动联系管理员的智能体数字人。

项目地址:https://github.com/xszyou/Fay

3
RAG

【开源免费】graphrag是微软推出的RAG项目,与传统的通过 RAG 方法使用向量相似性作为搜索技术不同,GraphRAG是使用知识图谱在推理复杂信息时大幅提高问答性能。

项目地址:https://github.com/microsoft/graphrag

【开源免费】Dify是最早一批实现RAG,Agent,模型管理等一站式AI开发的工具平台,并且项目方一直持续维护。其中在任务编排方面相对领先对手,可以帮助研发实现像字节扣子那样的功能。

项目地址:https://github.com/langgenius/dify


【开源免费】RAGFlow是和Dify类似的开源项目,该项目在大文件解析方面做的更出色,拓展编排方面相对弱一些。

项目地址:https://github.com/infiniflow/ragflow/tree/main


【开源免费】phidata是一个可以实现将数据转化成向量存储,并通过AI实现RAG功能的项目

项目地址:https://github.com/phidatahq/phidata


【开源免费】TaskingAI 是一个提供RAG,Agent,大模型管理等AI项目开发的工具平台,比LangChain更强大的中间件AI平台工具。

项目地址:https://github.com/TaskingAI/TaskingAI

4
prompt

【开源免费】LangGPT 是一个通过结构化和模板化的方法,编写高质量的AI提示词的开源项目。它可以让任何非专业的用户轻松创建高水平的提示词,进而高质量的帮助用户通过AI解决问题。

项目地址:https://github.com/langgptai/LangGPT/blob/main/README_zh.md

在线使用:https://kimi.moonshot.cn/kimiplus/conpg00t7lagbbsfqkq0

5
无人直播

【开源免费】VideoChat是一个开源数字人实时对话,该项目支持支持语音输入和实时对话,数字人形象可自定义等功能,首次对话延迟低至3s。

项目地址:https://github.com/Henry-23/VideoChat

在线体验:https://www.modelscope.cn/studios/AI-ModelScope/video_chat


【开源免费】Streamer-Sales 销冠是一个AI直播卖货大模型。该模型具备AI生成直播文案,生成数字人形象进行直播,并通过RAG技术对现有数据进行寻找后实时回答用户问题等AI直播卖货的所有功能。

项目地址:https://github.com/PeterH0323/Streamer-Sales