AI通过代码生成大规模生成可活动3D模型

AI通过代码生成大规模生成可活动3D模型

Matt Zhou, Ruining Li, Xiaoyang Lyu, Zhaomou Song, Zhening Huang +4 位

1 分钟阅读•2026年5月16日

可活动物体,如橱柜、钳子、台灯、婴儿车、折叠椅和工业工具,在现实世界中无处不在,因此在3D内容创作、游戏、物理设计和机器人等领域具有重要意义。由于这类物体的功能既依赖于部件的运动,也依赖于几何形状,仅建模形状是不够的:有用的表示还必须捕捉部件层次结构、关节和运动范围。我们引入Articraft,这是一个通过生成代码来大规模构建可活动3D物体的智能体。Articraft的设计遵循三个原则:自动化,无需人工干预即可生成可活动资产;轻量化,避免使用沉重的外部图形软件以降低每个资产的推理成本;表达力强,涵盖包括复杂机构在内的多种可活动类别。

智能体框架与SDK

关键技术创新在于智能体的设计,它由两个组件构成:智能体框架和适合大语言模型的软件开发工具包(SDK)。两者结合,使得现成的大语言模型能够在不重新训练的情况下生成可活动3D资产,利用LLM的编码能力及其对日常物体结构和运动方式的先验知识。这一设计使Articraft区别于以往基于LLM的可活动资产生成方法。

SDK使LLM更容易理解如何生成资产。LLM被要求针对该SDK编写单个程序;程序执行后,生成完整的可活动资产。SDK专注、表达力强且对LLM友好:它涵盖广泛的可活动类别,同时保持与熟悉编码模式的接近,确保生成可靠性。它既暴露低级原语(例如,添加圆柱体),也提供高级抽象(例如,添加铰链),使程序紧凑可读,并允许LLM编写和执行特定物体的验证代码以测试结构完整性。

Articraft框架

该框架将LLM转变为迭代智能体,而非单次生成器。框架暴露最小的工作空间和界面:编辑单个程序,执行它,接收或请求对生成的3D资产的反馈。其设计包含对暴露多少上下文、如何组织上下文、如何验证生成资产以及何时停止迭代的深思熟虑的选择。

与通用编码智能体不同,Articraft智能体不直接操作复杂代码库。相反,框架向智能体展示一个仅包含一个可写工件model.py的工作空间,加上对SDK文档和精选示例的只读访问。

Articraft生成的可活动资产示例,显示部件层次和关节结构

评估Articraft智能体

为评估生成资产的质量,参与者被呈现文本提示以及来自所有六种竞争方法(包括我们的两种变体)的生成3D资产,顺序随机。感知研究分布在125名具有不同学术背景的非专业大学生中,每位参与者评估约40个随机分配的对象,共提交5000个比较。每位参与者被要求从六个结果中选择并排名三个最佳结果,基于提示对齐度和整体质量。

评估Articraft-10K数据集

验证智能体后,我们评估新的Articraft-10K数据集作为训练数据和实际应用中的有效性。Articraft的计算需求适中,因为生成过程不训练模型,也不需要渲染的视觉反馈。昂贵的推理步骤由外部LLM API后端提供,而本地框架在CPU上运行model.py、CAD和网格构建、URDF导出、自编测试和质量控制检查。Articraft生成、数据集物化或编译/质量控制循环均不需要GPU。

仿真就绪

为验证所提框架的仿真就绪性,我们将生成的URDF文件直接导入NVIDIA Isaac Sim。每个组件的物理属性(如阻尼系数和质量)通过利用大语言模型自动分配。生成的资产与基于物理的仿真环境天然兼容。对于实际任务执行,系统从URDF检索全局坐标,并采用标准逆运动学和控制算法。高保真且干净的碰撞网格确保在物理交互和碰撞精度方面表现优越。

失败案例与验证权衡

一类失败是尽管通过局部结构检查,但全局形状质量差。例如,在“螺旋盖瓶子”案例中,瓶身明显变形,但未被测试套件检测到,因为生成的瓶身仍编译为连通网格,未引入不允许的部件重叠,且满足针对盖子、颈部和平动轴的自编局部测试。检查验证了结构一致性和选定的几何关系,但未完全判断类别级别的视觉合理性或全局表面质量。

第二类失败源于在当前SDK中难以紧凑表达的机构或形状。例如,“扳机喷雾瓶”案例捕捉了喷头机构的多个部分,但扳机形状和运动难以干净建模,且在运动过程中扳机可能与瓶身重叠。这些案例表明,某些类别受益于更丰富的特定机构抽象或额外的姿态检查。

最后,某些失败在更复杂类别中零星出现。智能体可能省略内部结构或未能掏空形状,即使外观和关节合理,例如“电饭煲”和“带铰链门的冰箱”案例。这些错误反映了当前廉价验证与更强语义或功能检查之间的权衡:框架可以有效强制许多结构约束,但尚未完全捕捉所有类别特定的真实性和完整性概念。

Articraft-10K数据集中的多样化可活动资产示例,包括机械工具和家居用品

结论

我们引入了Articraft,一个用于可扩展可活动3D资产生成的智能体系统。通过将任务特定SDK与受限执行框架配对,Articraft将可活动资产创建转化为基于验证和几何反馈的编辑-执行-修复循环,无需依赖渲染的视觉检查。利用该智能体系统,我们创建了Articraft-10K,一个包含超过10,000个高质量可活动3D资产的大规模数据集,附带源程序、语义部件结构、关节规格和生成轨迹。我们的结果表明,领域特定的程序接口和执行框架是可扩展且鲁棒的可活动资产生成的关键要素,支持前馈模型训练、仿真和VR交互等下游应用。

常见问题

Articraft如何在不训练模型的情况下生成可活动3D资产? Articraft使用现成的大语言模型针对专门SDK编写代码,然后执行代码以轻量迭代循环生成完整的可活动资产。

Articraft可以创建哪些类型的可活动物体? 它可以生成多种类别,包括橱柜、钳子、台灯、婴儿车、折叠椅、四旋翼无人机、螺旋盖瓶子以及许多其他复杂机构。

Articraft需要GPU进行资产生成吗? 不需要。Articraft的生成、数据集物化以及编译/质量控制循环完全在CPU上运行,唯一的GPU依赖步骤是外部LLM API调用。

Articraft系统的主要失败模式是什么? 失败包括全局形状质量差但通过局部结构检查、某些机构在SDK中难以紧凑表达,以及复杂类别中内部结构的零星遗漏。

在扩展可活动资产生成方面,下一步需要解决的最有影响力的限制是什么? 目前最有影响力的限制是失效的类别特定语义检查;利用3D基础模型获得更丰富的感知反馈可以改善全局视觉质量和逼真度。