blllank's picture
Add MeshWeaver (CVPR 2026)
f709367 verified
|
Raw History Blame Contribute Delete
28.6 kB

Mesh 基座模型与原生网格生成:2023–2026 范式演进

资料口径:覆盖 papers/manifest.csv 中 38 篇论文。日期采用 arXiv 首次公开日期;每个题名均链接到本地 MinerU Markdown,可继续回溯原文、图和表。这里的“局限”是为后续综述提炼的建模边界,部分属于基于方法设计的归纳,并不等同于作者原话。

一句话总览

这四年的主线不是单纯把 Transformer 做大,而是持续改写“什么才是 mesh token”:从三角形坐标序列,发展到邻接遍历、patch/tree/frontier、渐进 LOD;随后把离散拓扑连续化为 face latent、vertex/edge latent 或表面向量场,用 diffusion/flow 并行生成。与此同时,四边面路线必须额外解决方向场奇点、结构边、环流和面配对,因此从 cross-field 优化逐步走向 layout + field 联合预测及 native quad token。

关键范式与阶段

1. 2023–2024:把三角网格“语言化”,然后首先解决序列长度

MeshGPT 确立“图卷积编码局部几何/拓扑 → 残差量化成几何词表 → decoder-only Transformer 预测下一 token”的模板。优点是直接学习 artist mesh,而非从隐式场 Marching Cubes;代价是 face ordering、坐标量化和长序列。2024 年的工作由此分成三种回应:

  • MeshXL 不把局部三角形压成固定符号,而以 Neural Coordinate Field 为“显式坐标 + 隐式神经嵌入”的大规模顺序表示,强调预训练基座与下游迁移;但仍继承自回归串行、排序敏感和坐标序列长的问题。
  • MeshAnything 把问题明确为 point-cloud-conditioned artist-mesh extraction,以 VQ-VAE 词表和条件 decoder-only Transformer 连接任意 3D 表示与工业 mesh;MeshAnything V2 的 AMT 利用相邻面共享顶点,平均把序列缩短约一半,面数上限约翻倍。
  • EdgeRunner 借 EdgeBreaker 遍历做无损、邻接局部、可防翻面的序列,并用 autoregressive autoencoder 把变长 mesh 压到定长 latent,再接 latent diffusion;BPT 用 block-wise indexing + patch aggregation 约压缩 75%,将规模推到 8K+ faces;Meshtron 进一步依靠 hourglass Transformer、滑窗与高分辨率 tokenization 扩大上下文和几何精度。共同局限是压缩缓解而未消除串行解码、误差累积及窗口之外的全局拓扑一致性。

2. 2024–2025:拓扑感知的序列,而非任意线性化

第二阶段认识到瓶颈不仅是 token 数,还包括序列顺序是否贴合曲面拓扑。

  • Nautilus 用 manifold 局部性共享顶点/边并保持相邻面接近,配合双流点云条件,生成约 5K faces;仍主要面向三角流形,对脏拓扑和超长全局依赖不自然。
  • TreeMeshGPT 根据三角面邻接动态生长树,每面两 token,使生成从最近面局部扩张并约压缩 22%;树的路径选择仍引入顺序偏置,闭环和跨枝连接困难。
  • Silk 以类似“织丝”的拓扑保持遍历逐步铺展表面,强化已生成边界与后续面连接;本质仍是离散、自回归的局部决策。
  • VertexRegen 把 progressive mesh 的 edge collapse 逆过程(vertex split)作为生成动作,任何时刻停止都有合法 LOD;ARMesh 将简化逆过程推广到 simplicial complex 与局部 remeshing,从单点按 next-LOD 粗到细构造。二者把“中间状态不完整”改成“中间状态即有效低模”,但训练需可靠简化轨迹,局部动作也可能累积全局误差。
  • MeshMosaic 将形状切成 patch,局部自回归并共享边界,突破到 100K+ triangles;可扩展性来自分治,因此分割质量、patch 接缝及跨 patch 结构成为新瓶颈。
  • MeshRipple 用 frontier-aware BFS、expansive prediction 和稀疏全局记忆,从活动边界像涟漪般扩展,针对滑窗训练造成的孔洞和碎片;仍保留 AR 延迟,frontier 错误会向外传播。
  • MeshWeaver 将“逐坐标预测”改成 sparse-voxel-guided next-vertex prediction:多层稀疏体素既提供 vertex representation,又通过 cross-attention 注入局部几何,还充当限制生成贴近输入表面的 scaffold。其层级 coarse-to-fine 单步解码报告 18% tokenization ratio 与最高 16K faces;但仍是串行 AR,性能依赖体素分辨率、输入表面质量及顶点序列规范化。

3. 2025:从预训练走向偏好对齐,并开始拆分几何与拓扑

  • DeepMesh 在改进 tokenization/数据清洗后引入基于人工评价与 3D 指标偏好对的 DPO;Mesh-RFT 以 BER 与 Topology Score 定位坏面,再做 masked DPO,实现 face-level 局部修正。它们说明“几何像不像”和“拓扑好不好”需要独立奖励,但奖励代理可能被钻空子,且不能从根本上解除 AR 表示瓶颈。
  • FastMesh 只用 AR 生成唯一顶点,再由双向 Transformer 一次预测邻接矩阵/面,token 数降至紧凑 tokenizer 的约 23%、速度提升 8×;这是 geometry–connectivity 解耦的早期明确转向。不过二阶段误差耦合、邻接矩阵规模及后处理仍限制大网格。
  • TSSR 用离散扩散并行看全部 mesh tokens,拆成 topology sculpting 与 shape refinement,配合多层级 RoPE 和 connection loss,可到 10K faces/1024³;避免严格 AR,却仍在量化离散空间迭代去噪,token 对齐和采样步数是成本。

4. 2025–2026:连续 latent、diffusion/flow 取代逐 token 生成

MeshCraft 是清晰分水岭:Transformer VAE 把原始网格编码为连续 face-level tokens,flow-based DiT 并行生成并显式条件化 face count,800 faces 约 3.2 秒。此后重点从“如何缩短离散序列”转成“如何让连续空间忠实承载离散 connectivity”。

  • FACE 以 one-face-one-token ARAE 将坐标序列压缩到 1/9,并在其 latent 上训练 diffusion;face 语义强、重建好,但共享顶点一致性需要 decoder 学出,face token 数仍随分辨率增长。
  • LATO 用表面锚定 Vertex Displacement Field,经 sparse voxel VAE 得到结构化拓扑 latent;decoder 逐级 subdivide/prune 定位顶点,connection head 预测边,两个 flow 阶段生成结构 voxel 与拓扑特征。它不靠等值面抽取,但 shared latent 同时承载位置与组合关系,可能互相干扰。
  • MeshFlow-VAE 以 contrastive MeshVAE 把连续顶点和离散连接压入紧凑连续 latent,再用 Rectified Flow Transformer 并行生成顶点与边,报告比最快 AR 快 18×;限制正是统一 latent 中几何/拓扑统计性质不同。
  • LATO.2 因此显式分成 vertex VAE/flow 与 vertex-conditioned topology VAE/flow;前者用 VDF + sub-voxel drift,后者以 per-vertex latent 解 pairwise edges 并找环成面,还支持分块高分辨率和编辑后拓扑自适应。代价是两阶段条件误差及 pairwise connectivity/loop recovery 的复杂度。
  • Nexus 同样先顶点后拓扑:octree diffusion 粗到细生成顶点,以 Spacetime Interval 将任意 edge/face topology 编成连续 per-vertex embedding,再扩散并全局恢复;摆脱排序但层级扩散和拓扑解码仍昂贵。
  • Meshy T2 用 vertex-set Mesh VAE 每顶点一个连续 token、单次解码顶点/边/face winding;image-conditioned voxel flow 先给 scaffold,mesh flow 再按指定 vertex budget 填充,报告端到端中位数约 6 秒。它代表当前最完整的“并行、可控面数、原生多部件”工程方向,但质量上限高度受 VAE 重建和 scaffold 约束。

另一支不经过紧凑拓扑 latent,而直接尊重 mesh 的集合对称性:MeshFlow-equivariant 在连续 triangle soup 上构造对面排列、面内顶点排列等对称性等变的 DiT,并以 optimal-transport flow matching 消除违反对称性的监督,达到亚秒级推理。triangle soup 易并行且可推广多边形,但共享顶点和显式连通性并非表示原生保证,焊接/一致性恢复是关键局限。

5. 2026:把离散 topology 改写成“可生成的连续场”

  • TriFlow 在输入 SDF 表面定义 nearest-vertex vector field:每点在局部重心坐标中指向最近目标顶点,区域邻接隐式对应连接;latent flow 生成场,再用 watershed 聚类与受约束 QEM 提取三角网格。泛化和速度好,但依赖 SDF、场到网格的提取与简化,严格说不是一次性直接生成 connectivity。
  • Mesh BDF 用定义在三角表面的 barycentric dominance field 连续编码顶点连接,其性质近似 texture map,可接入既有 3D diffusion;扩展性强,但 topology fidelity 取决于连续场分辨率和稳健离散化。
  • TopoMesh 不直接提出生成器,而解决 VAE 上限:先把任意 GT remesh 到 Dual Marching Cubes 共同拓扑,使预测与 GT 有 vertex/face 显式对应,可直接监督拓扑、位置和朝向;锐边重建更好,但 canonical DMC 拓扑会改写 artist-authored 原始连接。

6. 四边面独立路线:从方向场到 layout,再到 native quad

四边面不是“把三角 token 从 3 个顶点换成 4 个”这么简单。三角化只需局部闭合;高质量 quad 还要求全局两族方向一致、奇点指数与位置合理、edge loop 连续、结构线对齐锐边,并避免退化 quad。这解释了其路线更晚、更依赖中间结构。

  • NeurCross 联合优化 SIREN neural SDF 与 cross field,以 SDF Hessian 隐式约束主曲率对齐,同时兼顾场光滑、几何拟合、锐边和抗噪;它是单形状自监督优化/场求解器,不是可采样的 quad 基座模型,最终 quad 仍需 field-aligned extraction。
  • CrossGen 把 cross field 从逐形状优化推进到学习与生成,用数据驱动先验改善奇点布局与全局方向;但 field 只规定方向,不唯一决定 patch layout、边流和 quad connectivity。
  • QuadGPT 首次将 native quadrilateral mesh 作为 AR 目标,直接学习 quad face/connectivity,而非先三角生成再配对;它保留 artist quad loops,但四点 face 的排列对称、长程环流、非规则价点和序列长度比三角面更难。
  • Mesh-Pro 引入 diagonal-aware mixed triangular–quadrilateral tokenization,使 quad 可借对角关系稳定序列化;以 ray-based geometry-integrity reward 和异步在线 ARPO 做偏好后训练(比同步 RL 快 3.75×)。它提高致密 artist quad 质量,但奖励对齐不能保证硬拓扑合法性,且仍受 AR 延迟。
  • TopGen 模拟人工建模流程,edge-query 分类结构线、face-query 回归 cross-field,并发布含 raw tri/layout/field/quad 配对的 TopGen-220K;对非流形/劣质输入更稳,且 layout 可编辑。它仍是“预测设计蓝图 + 后续 remesh”,而非端到端原生 quad connectivity。
  • Strips as Tokens 把连续 face strips 而非孤立面作为 token,并将 strip 边界天然作为 UV segmentation;直接把 edge-loop/UV chart 的中尺度结构纳入 artist mesh 生成。条带分解并非唯一,极点、分叉和复杂拓扑会破坏规则 strip。
  • SQuadGen 用 chart distance fields 生成简单 quad layouts,将离散 chart 边界/奇点转为可学习场,再恢复 quad layout;适合结构简单和可控布局,复杂 genus、密集奇点及细部仍受场分辨率与提取约束。
  • QuadLink 以 point-relation learning 自回归生成 quad-dominant connectivity,允许少量三角面吸收奇点/闭合困难,比纯 quad 更符合实际生产;但关系候选随点数增长,长程 loop 一致性仍难。

全部论文对照表

时间 / 论文 核心表示或 tokenization 生成范式 拓扑处理 面型 主要贡献 主要局限
23.11 MeshGPT VQ 三角几何 token decoder-only AR 图卷积编码邻域;按面排序 Tri 奠定 mesh-as-language 长序列、量化、排序敏感
24.05 NeurCross neural SDF + cross field 单形状联合优化 Hessian 对齐曲率,控制奇点/锐边 Quad 目标 稳健学习方向场 非生成基座;需后续抽取
24.05 MeshXL Neural Coordinate Field 大规模预训练 AR 坐标序列隐式学习连接 Tri mesh foundation model 与迁移 串行且序列长
24.06 MeshAnything VQ-VAE mesh vocabulary 点云条件 AR 直接生成 artist connectivity Tri 通用 shape-to-AM 接口 面数/分辨率受 token 上限
24.08 MeshAnything V2 AMT 邻面共享顶点 条件 AR 邻接顺序显式复用 Tri 序列约减半 仍为局部 AR
24.09 EdgeRunner EdgeBreaker token + 定长 latent ArAE + latent diffusion 无损遍历、防翻面 Tri 4K faces、512³、强泛化 decoder 仍 AR;遍历依赖
24.11 BPT block index + patch token 条件 AR patch 内局部连接 Tri 约压缩 75%,8K+ faces patch/窗口全局一致性
24.12 Meshtron 高分辨率坐标 token hourglass AR + sliding window 局部窗口与层级上下文 Tri 大规模高保真 artist mesh 长序列与窗口误差
25.01 Nautilus locality-aware 共享顶点/边 autoencoder/条件生成 manifold 局部邻接 Tri 约 5K faces,结构保真 对脏拓扑/全局环弱
25.03 TreeMeshGPT 邻接树、每面 2 token tree-conditioned AR 动态树局部扩张 Tri 减训练难度、防法线翻转 跨枝闭环困难
25.03 DeepMesh 高效离散 mesh token AR + DPO 偏好分数整体约束 Tri 首批 RL artist-mesh 对齐 offline 偏好与代理偏差
25.03 MeshCraft 连续 face-level VAE token flow DiT 并行 全 mesh 同步生成 Tri 可控 face count,35× 加速 VAE/连续 latent 拓扑上限
25.05 Mesh-RFT face token + quality mask masked DPO BER/TS 面级奖励 Tri 局部拓扑修正 指标不能保证硬合法性
25.06 CrossGen 可学习 cross field 条件场生成 学习奇点与方向先验 Quad 目标 从优化走向场生成 field 不等于 layout/connectivity
25.07 Silk 拓扑保持织丝序列 AR surface growth 沿活动边界铺展 Tri 更连续的局部拓扑 串行、局部错误传播
25.08 VertexRegen vertex-split action 渐进 AR edge-collapse 逆过程 Tri 连续 LOD/anytime mesh 依赖简化轨迹
25.08 FastMesh 唯一 vertex token + adjacency vertex AR + face 并行 二阶段预测邻接/后处理 Tri token≈23%,速度 >8× 邻接二次规模、阶段误差
25.09 MeshMosaic 局部 patch token patch-wise AR 共享 patch 边界组装 Tri 扩展至 100K+ faces 分割、接缝、全局协调
25.09 ARMesh LOD/local-remesh action coarse-to-fine AR simplicial complex 可变拓扑 Tri 合法中间态、编辑/细化 局部动作累积误差
25.09 QuadGPT 原生 quad 序列 AR 直接学四边面与 edge flow Quad native quad 生成开端 环流/奇点/排列更难
25.10 TSSR 离散 mesh token discrete diffusion 先 sculpt topology 后 refine shape Tri 并行、10K faces/1024³ 迭代采样与量化
25.12 MeshRipple frontier-aware BFS AR + sparse global memory 边界扩展、长程记忆 Tri 减孔洞与碎片 AR 慢、frontier 错误扩散
26.03 Mesh-Pro diagonal-aware tri–quad token AR + asynchronous ARPO ray reward 约束完整性 Mixed/Quad 在线 RL 与 quad 对齐 无硬合法保证、仍串行
26.03 FACE one-face-one-token ARAE + latent diffusion decoder 恢复共享关系 Tri 相对坐标序列压缩 9× 共享顶点不原生保证
26.03 LATO VDF + sparse structured latent 两阶段 flow matching connection head 直接预测边 Tri/显式 mesh topology-preserving 连续 latent 位置与连接 latent 耦合
26.03 TopGen layout lines + cross field 双 query 判别/回归 结构骨架与方向场联合 Quad 目标 可编辑且稳健,TopGen-220K 仍需 remeshing 后端
26.03 TopoMesh DMC 统一拓扑 sparse VAE GT/预测建立显式对应 Tri mesh-level 监督与锐边重建 改写原 artist topology
26.04 Strips as Tokens face strip token structured generation strip/loop 与 UV chart 同建模 以 Quad/artist 为主 中尺度拓扑 + 原生 UV strip 分解歧义、分叉困难
26.04 SQuadGen chart distance field 场生成/提取 场隐式编码 layout Quad 简单、可控 quad layout 复杂拓扑/奇点受限
26.05 QuadLink point-relation token AR relation prediction 点关系恢复 quad-dominant 连接 Mixed/Quad 实用 quad-dominant 候选规模、长程 loop
26.06 MeshFlow-VAE joint vertex-edge continuous latent Rectified Flow DiT contrastive VAE 解码连接 Tri/显式 mesh 并行,较 AR 快 18× geometry/topology latent 缠绕
26.06 TriFlow nearest-vertex vector field latent flow matching 分区邻接 + QEM 提取 Tri topology 连续场化 依赖 SDF 与后处理
26.06 MeshFlow-equivariant continuous triangle soup equivariant OT flow 用集合对称性代替排序 Tri 亚秒级、无量化 AR 连通/焊接不原生保证
26.06 MeshWeaver hierarchical next-vertex token + sparse voxel geometry-guided AR 体素特征/scaffold 约束 surface weaving Tri 18% token ratio,最高 16K faces 仍串行;依赖 voxel scaffold
26.06 Mesh BDF barycentric dominance field 兼容 3D diffusion 表面场编码顶点连接 Tri topology-as-texture,可扩展 场离散化决定连通质量
26.07 LATO.2 分离 vertex/topology latent 两个条件 flow pairwise edges + loop detection 显式 mesh 解耦、更高分辨率/可编辑 两阶段与关系解码成本
26.07 Nexus octree vertices + Spacetime Interval 两阶段 diffusion 连续 per-vertex 拓扑嵌入 显式 mesh 无排序、全局恢复 层级采样和解码复杂
26.07 Meshy T2 每顶点连续 latent voxel flow → mesh flow 单次解 vertex/edge/winding 显式 mesh 约 6 秒、预算控制、多部件 VAE/scaffold 是质量上限

可用于综述的判断

  1. 三角面难在规模,四边面难在结构。 三角面天然是最小稳定面元,任意多边形都能三角化,生成器主要承担坐标精度、共享顶点和流形一致性;quad 除此之外还要学习全局方向场、奇点、成对边、edge loop 和 chart layout,局部正确并不推出全局可用。
  2. token 压缩经历了四级语义提升: coordinate → adjacent face/edge traversal → patch/tree/frontier/LOD → continuous topology latent/field。越往后并行度越高,但越依赖 decoder 或提取器把连续预测还原成严格组合结构。
  3. AR 与 flow/diffusion 的真正分界是合法性来源。 AR 把局部连接规则放进生成顺序,慢但容易逐步约束;flow/diffusion 全局并行,快且无 ordering,但必须靠等变架构、结构化 latent、relation decoder 或连续场提取保证连接。
  4. 未来 mesh foundation model 更可能是分层而非单一 token 流。 合理层级是 shape/scaffold → vertices → topology/layout → face type/winding → UV/material;LATO.2、Nexus、Meshy T2 和 Strips as Tokens 已分别覆盖其中若干层。
  5. quad foundation model 需要混合监督。 单有最终 quad mesh 不足以稳定学习,应同时保存结构线、cross-field、奇点、chart、edge-loop、tri/quad 混合位置及 UV;TopGen-220K 的数据设计比单一架构创新更可能成为可扩展基础。
  6. 评价不能只用 Chamfer/FID。 应分开报告几何误差、边界/非流形率、法线朝向、连通分量、valence/奇点分布、edge-loop 连续性、quad 正交性/长宽比、UV seam,以及相同质量下的 token 数、时延和显存。

本地来源索引