书生·物华2.0（3DTopia-XL）是一款由上海人工智能实验室与南洋理工大学等机构联合开发的三维物体生成模型。它采用创新的原语（primitive-based）三维表示方法PrimX，能够高效编码和生成具有物理基础渲染（PBR）特性的高质量三维资产。3DTopia-XL基于Diffusion Transformer框架，支持从文本或图像输入生成三维物体，具有高效率、高质量和精细纹理等特点。模型代码已开源，并提供免费商用授权，有潜力革新游戏、影视、建筑和设计等行业的三维内容创作流程。

主要功能

• 多模态输入生成三维物体：根据文本描述或图像输入快速生成对应的三维模型。
• 高效率的生成过程：能在五秒内完成从输入到三维模型的转换。
• 高质量和精细纹理：生成的三维物体具有平滑的几何形状和空间变化的纹理和材质。
• 直接应用于游戏引擎和设计软件：生成的三维模型可以直接用于游戏引擎和工业设计软件。
• 支持高分辨率几何图形：基于PrimX表示法，能建模高分辨率的三维几何图形。

技术原理

• PrimX表示法：将三维物体的形状、反照率（albedo）、材质信息编码到一个紧凑的张量格式中。
• 原始补丁压缩：使用三维变分自编码器（VAE）对每个原语的空间信息进行压缩，得到潜在的原语标记。
• 潜在原语扩散（Latent Primitive Diffusion）：基于Diffusion Transformer框架，学习如何从随机噪声中逐步去除噪声，生成符合输入条件的潜在原语标记。
• 可微分渲染：PrimX表示法支持可微分渲染，模型可以直接从二维图像数据中学习。

项目地址

• Github仓库：3DTopia-XL
• arXiv技术论文：3DTopia-XL: Scaling High-Quality 3D Asset Generation via Primitive Diffusion

应用场景

• 游戏开发：快速生成各种三维游戏资产，如角色、道具、环境元素等。
• 电影和动画制作：创建电影或动画中的三维场景和角色模型。
• 虚拟现实（VR）和增强现实（AR）：为VR和AR应用生成逼真的三维环境和对象。
• 建筑和城市规划：快速生成三维建筑模型和城市景观，帮助设计师和规划师进行方案推敲和效果展示。

书生·物华2.0的开源特性和高效生成能力，使其成为一个强大的工具，能够推动三维内容创作的自动化和智能化，为各行各业带来创新和便利。