Datasets:
Download research/timeline.md from blllank/mesh-foundation-papers-mineru: direct link, hf CLI and curl.
- Browser
- Download file 28.6 kB
-
https://huggingface.co/datasets/blllank/mesh-foundation-papers-mineru/resolve/main/research/timeline.md
- Command line
-
hf download hf://datasets/blllank/mesh-foundation-papers-mineru/research/timeline.md
-
curl -L -o timeline.md https://huggingface.co/datasets/blllank/mesh-foundation-papers-mineru/resolve/main/research/timeline.md
Mesh 基座模型与原生网格生成:2023–2026 范式演进
资料口径:覆盖
papers/manifest.csv中 38 篇论文。日期采用 arXiv 首次公开日期;每个题名均链接到本地 MinerU Markdown,可继续回溯原文、图和表。这里的“局限”是为后续综述提炼的建模边界,部分属于基于方法设计的归纳,并不等同于作者原话。
一句话总览
这四年的主线不是单纯把 Transformer 做大,而是持续改写“什么才是 mesh token”:从三角形坐标序列,发展到邻接遍历、patch/tree/frontier、渐进 LOD;随后把离散拓扑连续化为 face latent、vertex/edge latent 或表面向量场,用 diffusion/flow 并行生成。与此同时,四边面路线必须额外解决方向场奇点、结构边、环流和面配对,因此从 cross-field 优化逐步走向 layout + field 联合预测及 native quad token。
关键范式与阶段
1. 2023–2024:把三角网格“语言化”,然后首先解决序列长度
MeshGPT 确立“图卷积编码局部几何/拓扑 → 残差量化成几何词表 → decoder-only Transformer 预测下一 token”的模板。优点是直接学习 artist mesh,而非从隐式场 Marching Cubes;代价是 face ordering、坐标量化和长序列。2024 年的工作由此分成三种回应:
- MeshXL 不把局部三角形压成固定符号,而以 Neural Coordinate Field 为“显式坐标 + 隐式神经嵌入”的大规模顺序表示,强调预训练基座与下游迁移;但仍继承自回归串行、排序敏感和坐标序列长的问题。
- MeshAnything 把问题明确为 point-cloud-conditioned artist-mesh extraction,以 VQ-VAE 词表和条件 decoder-only Transformer 连接任意 3D 表示与工业 mesh;MeshAnything V2 的 AMT 利用相邻面共享顶点,平均把序列缩短约一半,面数上限约翻倍。
- EdgeRunner 借 EdgeBreaker 遍历做无损、邻接局部、可防翻面的序列,并用 autoregressive autoencoder 把变长 mesh 压到定长 latent,再接 latent diffusion;BPT 用 block-wise indexing + patch aggregation 约压缩 75%,将规模推到 8K+ faces;Meshtron 进一步依靠 hourglass Transformer、滑窗与高分辨率 tokenization 扩大上下文和几何精度。共同局限是压缩缓解而未消除串行解码、误差累积及窗口之外的全局拓扑一致性。
2. 2024–2025:拓扑感知的序列,而非任意线性化
第二阶段认识到瓶颈不仅是 token 数,还包括序列顺序是否贴合曲面拓扑。
- Nautilus 用 manifold 局部性共享顶点/边并保持相邻面接近,配合双流点云条件,生成约 5K faces;仍主要面向三角流形,对脏拓扑和超长全局依赖不自然。
- TreeMeshGPT 根据三角面邻接动态生长树,每面两 token,使生成从最近面局部扩张并约压缩 22%;树的路径选择仍引入顺序偏置,闭环和跨枝连接困难。
- Silk 以类似“织丝”的拓扑保持遍历逐步铺展表面,强化已生成边界与后续面连接;本质仍是离散、自回归的局部决策。
- VertexRegen 把 progressive mesh 的 edge collapse 逆过程(vertex split)作为生成动作,任何时刻停止都有合法 LOD;ARMesh 将简化逆过程推广到 simplicial complex 与局部 remeshing,从单点按 next-LOD 粗到细构造。二者把“中间状态不完整”改成“中间状态即有效低模”,但训练需可靠简化轨迹,局部动作也可能累积全局误差。
- MeshMosaic 将形状切成 patch,局部自回归并共享边界,突破到 100K+ triangles;可扩展性来自分治,因此分割质量、patch 接缝及跨 patch 结构成为新瓶颈。
- MeshRipple 用 frontier-aware BFS、expansive prediction 和稀疏全局记忆,从活动边界像涟漪般扩展,针对滑窗训练造成的孔洞和碎片;仍保留 AR 延迟,frontier 错误会向外传播。
- MeshWeaver 将“逐坐标预测”改成 sparse-voxel-guided next-vertex prediction:多层稀疏体素既提供 vertex representation,又通过 cross-attention 注入局部几何,还充当限制生成贴近输入表面的 scaffold。其层级 coarse-to-fine 单步解码报告 18% tokenization ratio 与最高 16K faces;但仍是串行 AR,性能依赖体素分辨率、输入表面质量及顶点序列规范化。
3. 2025:从预训练走向偏好对齐,并开始拆分几何与拓扑
- DeepMesh 在改进 tokenization/数据清洗后引入基于人工评价与 3D 指标偏好对的 DPO;Mesh-RFT 以 BER 与 Topology Score 定位坏面,再做 masked DPO,实现 face-level 局部修正。它们说明“几何像不像”和“拓扑好不好”需要独立奖励,但奖励代理可能被钻空子,且不能从根本上解除 AR 表示瓶颈。
- FastMesh 只用 AR 生成唯一顶点,再由双向 Transformer 一次预测邻接矩阵/面,token 数降至紧凑 tokenizer 的约 23%、速度提升 8×;这是 geometry–connectivity 解耦的早期明确转向。不过二阶段误差耦合、邻接矩阵规模及后处理仍限制大网格。
- TSSR 用离散扩散并行看全部 mesh tokens,拆成 topology sculpting 与 shape refinement,配合多层级 RoPE 和 connection loss,可到 10K faces/1024³;避免严格 AR,却仍在量化离散空间迭代去噪,token 对齐和采样步数是成本。
4. 2025–2026:连续 latent、diffusion/flow 取代逐 token 生成
MeshCraft 是清晰分水岭:Transformer VAE 把原始网格编码为连续 face-level tokens,flow-based DiT 并行生成并显式条件化 face count,800 faces 约 3.2 秒。此后重点从“如何缩短离散序列”转成“如何让连续空间忠实承载离散 connectivity”。
- FACE 以 one-face-one-token ARAE 将坐标序列压缩到 1/9,并在其 latent 上训练 diffusion;face 语义强、重建好,但共享顶点一致性需要 decoder 学出,face token 数仍随分辨率增长。
- LATO 用表面锚定 Vertex Displacement Field,经 sparse voxel VAE 得到结构化拓扑 latent;decoder 逐级 subdivide/prune 定位顶点,connection head 预测边,两个 flow 阶段生成结构 voxel 与拓扑特征。它不靠等值面抽取,但 shared latent 同时承载位置与组合关系,可能互相干扰。
- MeshFlow-VAE 以 contrastive MeshVAE 把连续顶点和离散连接压入紧凑连续 latent,再用 Rectified Flow Transformer 并行生成顶点与边,报告比最快 AR 快 18×;限制正是统一 latent 中几何/拓扑统计性质不同。
- LATO.2 因此显式分成 vertex VAE/flow 与 vertex-conditioned topology VAE/flow;前者用 VDF + sub-voxel drift,后者以 per-vertex latent 解 pairwise edges 并找环成面,还支持分块高分辨率和编辑后拓扑自适应。代价是两阶段条件误差及 pairwise connectivity/loop recovery 的复杂度。
- Nexus 同样先顶点后拓扑:octree diffusion 粗到细生成顶点,以 Spacetime Interval 将任意 edge/face topology 编成连续 per-vertex embedding,再扩散并全局恢复;摆脱排序但层级扩散和拓扑解码仍昂贵。
- Meshy T2 用 vertex-set Mesh VAE 每顶点一个连续 token、单次解码顶点/边/face winding;image-conditioned voxel flow 先给 scaffold,mesh flow 再按指定 vertex budget 填充,报告端到端中位数约 6 秒。它代表当前最完整的“并行、可控面数、原生多部件”工程方向,但质量上限高度受 VAE 重建和 scaffold 约束。
另一支不经过紧凑拓扑 latent,而直接尊重 mesh 的集合对称性:MeshFlow-equivariant 在连续 triangle soup 上构造对面排列、面内顶点排列等对称性等变的 DiT,并以 optimal-transport flow matching 消除违反对称性的监督,达到亚秒级推理。triangle soup 易并行且可推广多边形,但共享顶点和显式连通性并非表示原生保证,焊接/一致性恢复是关键局限。
5. 2026:把离散 topology 改写成“可生成的连续场”
- TriFlow 在输入 SDF 表面定义 nearest-vertex vector field:每点在局部重心坐标中指向最近目标顶点,区域邻接隐式对应连接;latent flow 生成场,再用 watershed 聚类与受约束 QEM 提取三角网格。泛化和速度好,但依赖 SDF、场到网格的提取与简化,严格说不是一次性直接生成 connectivity。
- Mesh BDF 用定义在三角表面的 barycentric dominance field 连续编码顶点连接,其性质近似 texture map,可接入既有 3D diffusion;扩展性强,但 topology fidelity 取决于连续场分辨率和稳健离散化。
- TopoMesh 不直接提出生成器,而解决 VAE 上限:先把任意 GT remesh 到 Dual Marching Cubes 共同拓扑,使预测与 GT 有 vertex/face 显式对应,可直接监督拓扑、位置和朝向;锐边重建更好,但 canonical DMC 拓扑会改写 artist-authored 原始连接。
6. 四边面独立路线:从方向场到 layout,再到 native quad
四边面不是“把三角 token 从 3 个顶点换成 4 个”这么简单。三角化只需局部闭合;高质量 quad 还要求全局两族方向一致、奇点指数与位置合理、edge loop 连续、结构线对齐锐边,并避免退化 quad。这解释了其路线更晚、更依赖中间结构。
- NeurCross 联合优化 SIREN neural SDF 与 cross field,以 SDF Hessian 隐式约束主曲率对齐,同时兼顾场光滑、几何拟合、锐边和抗噪;它是单形状自监督优化/场求解器,不是可采样的 quad 基座模型,最终 quad 仍需 field-aligned extraction。
- CrossGen 把 cross field 从逐形状优化推进到学习与生成,用数据驱动先验改善奇点布局与全局方向;但 field 只规定方向,不唯一决定 patch layout、边流和 quad connectivity。
- QuadGPT 首次将 native quadrilateral mesh 作为 AR 目标,直接学习 quad face/connectivity,而非先三角生成再配对;它保留 artist quad loops,但四点 face 的排列对称、长程环流、非规则价点和序列长度比三角面更难。
- Mesh-Pro 引入 diagonal-aware mixed triangular–quadrilateral tokenization,使 quad 可借对角关系稳定序列化;以 ray-based geometry-integrity reward 和异步在线 ARPO 做偏好后训练(比同步 RL 快 3.75×)。它提高致密 artist quad 质量,但奖励对齐不能保证硬拓扑合法性,且仍受 AR 延迟。
- TopGen 模拟人工建模流程,edge-query 分类结构线、face-query 回归 cross-field,并发布含 raw tri/layout/field/quad 配对的 TopGen-220K;对非流形/劣质输入更稳,且 layout 可编辑。它仍是“预测设计蓝图 + 后续 remesh”,而非端到端原生 quad connectivity。
- Strips as Tokens 把连续 face strips 而非孤立面作为 token,并将 strip 边界天然作为 UV segmentation;直接把 edge-loop/UV chart 的中尺度结构纳入 artist mesh 生成。条带分解并非唯一,极点、分叉和复杂拓扑会破坏规则 strip。
- SQuadGen 用 chart distance fields 生成简单 quad layouts,将离散 chart 边界/奇点转为可学习场,再恢复 quad layout;适合结构简单和可控布局,复杂 genus、密集奇点及细部仍受场分辨率与提取约束。
- QuadLink 以 point-relation learning 自回归生成 quad-dominant connectivity,允许少量三角面吸收奇点/闭合困难,比纯 quad 更符合实际生产;但关系候选随点数增长,长程 loop 一致性仍难。
全部论文对照表
| 时间 / 论文 | 核心表示或 tokenization | 生成范式 | 拓扑处理 | 面型 | 主要贡献 | 主要局限 |
|---|---|---|---|---|---|---|
| 23.11 MeshGPT | VQ 三角几何 token | decoder-only AR | 图卷积编码邻域;按面排序 | Tri | 奠定 mesh-as-language | 长序列、量化、排序敏感 |
| 24.05 NeurCross | neural SDF + cross field | 单形状联合优化 | Hessian 对齐曲率,控制奇点/锐边 | Quad 目标 | 稳健学习方向场 | 非生成基座;需后续抽取 |
| 24.05 MeshXL | Neural Coordinate Field | 大规模预训练 AR | 坐标序列隐式学习连接 | Tri | mesh foundation model 与迁移 | 串行且序列长 |
| 24.06 MeshAnything | VQ-VAE mesh vocabulary | 点云条件 AR | 直接生成 artist connectivity | Tri | 通用 shape-to-AM 接口 | 面数/分辨率受 token 上限 |
| 24.08 MeshAnything V2 | AMT 邻面共享顶点 | 条件 AR | 邻接顺序显式复用 | Tri | 序列约减半 | 仍为局部 AR |
| 24.09 EdgeRunner | EdgeBreaker token + 定长 latent | ArAE + latent diffusion | 无损遍历、防翻面 | Tri | 4K faces、512³、强泛化 | decoder 仍 AR;遍历依赖 |
| 24.11 BPT | block index + patch token | 条件 AR | patch 内局部连接 | Tri | 约压缩 75%,8K+ faces | patch/窗口全局一致性 |
| 24.12 Meshtron | 高分辨率坐标 token | hourglass AR + sliding window | 局部窗口与层级上下文 | Tri | 大规模高保真 artist mesh | 长序列与窗口误差 |
| 25.01 Nautilus | locality-aware 共享顶点/边 | autoencoder/条件生成 | manifold 局部邻接 | Tri | 约 5K faces,结构保真 | 对脏拓扑/全局环弱 |
| 25.03 TreeMeshGPT | 邻接树、每面 2 token | tree-conditioned AR | 动态树局部扩张 | Tri | 减训练难度、防法线翻转 | 跨枝闭环困难 |
| 25.03 DeepMesh | 高效离散 mesh token | AR + DPO | 偏好分数整体约束 | Tri | 首批 RL artist-mesh 对齐 | offline 偏好与代理偏差 |
| 25.03 MeshCraft | 连续 face-level VAE token | flow DiT 并行 | 全 mesh 同步生成 | Tri | 可控 face count,35× 加速 | VAE/连续 latent 拓扑上限 |
| 25.05 Mesh-RFT | face token + quality mask | masked DPO | BER/TS 面级奖励 | Tri | 局部拓扑修正 | 指标不能保证硬合法性 |
| 25.06 CrossGen | 可学习 cross field | 条件场生成 | 学习奇点与方向先验 | Quad 目标 | 从优化走向场生成 | field 不等于 layout/connectivity |
| 25.07 Silk | 拓扑保持织丝序列 | AR surface growth | 沿活动边界铺展 | Tri | 更连续的局部拓扑 | 串行、局部错误传播 |
| 25.08 VertexRegen | vertex-split action | 渐进 AR | edge-collapse 逆过程 | Tri | 连续 LOD/anytime mesh | 依赖简化轨迹 |
| 25.08 FastMesh | 唯一 vertex token + adjacency | vertex AR + face 并行 | 二阶段预测邻接/后处理 | Tri | token≈23%,速度 >8× | 邻接二次规模、阶段误差 |
| 25.09 MeshMosaic | 局部 patch token | patch-wise AR | 共享 patch 边界组装 | Tri | 扩展至 100K+ faces | 分割、接缝、全局协调 |
| 25.09 ARMesh | LOD/local-remesh action | coarse-to-fine AR | simplicial complex 可变拓扑 | Tri | 合法中间态、编辑/细化 | 局部动作累积误差 |
| 25.09 QuadGPT | 原生 quad 序列 | AR | 直接学四边面与 edge flow | Quad | native quad 生成开端 | 环流/奇点/排列更难 |
| 25.10 TSSR | 离散 mesh token | discrete diffusion | 先 sculpt topology 后 refine shape | Tri | 并行、10K faces/1024³ | 迭代采样与量化 |
| 25.12 MeshRipple | frontier-aware BFS | AR + sparse global memory | 边界扩展、长程记忆 | Tri | 减孔洞与碎片 | AR 慢、frontier 错误扩散 |
| 26.03 Mesh-Pro | diagonal-aware tri–quad token | AR + asynchronous ARPO | ray reward 约束完整性 | Mixed/Quad | 在线 RL 与 quad 对齐 | 无硬合法保证、仍串行 |
| 26.03 FACE | one-face-one-token | ARAE + latent diffusion | decoder 恢复共享关系 | Tri | 相对坐标序列压缩 9× | 共享顶点不原生保证 |
| 26.03 LATO | VDF + sparse structured latent | 两阶段 flow matching | connection head 直接预测边 | Tri/显式 mesh | topology-preserving 连续 latent | 位置与连接 latent 耦合 |
| 26.03 TopGen | layout lines + cross field | 双 query 判别/回归 | 结构骨架与方向场联合 | Quad 目标 | 可编辑且稳健,TopGen-220K | 仍需 remeshing 后端 |
| 26.03 TopoMesh | DMC 统一拓扑 | sparse VAE | GT/预测建立显式对应 | Tri | mesh-level 监督与锐边重建 | 改写原 artist topology |
| 26.04 Strips as Tokens | face strip token | structured generation | strip/loop 与 UV chart 同建模 | 以 Quad/artist 为主 | 中尺度拓扑 + 原生 UV | strip 分解歧义、分叉困难 |
| 26.04 SQuadGen | chart distance field | 场生成/提取 | 场隐式编码 layout | Quad | 简单、可控 quad layout | 复杂拓扑/奇点受限 |
| 26.05 QuadLink | point-relation token | AR relation prediction | 点关系恢复 quad-dominant 连接 | Mixed/Quad | 实用 quad-dominant | 候选规模、长程 loop |
| 26.06 MeshFlow-VAE | joint vertex-edge continuous latent | Rectified Flow DiT | contrastive VAE 解码连接 | Tri/显式 mesh | 并行,较 AR 快 18× | geometry/topology latent 缠绕 |
| 26.06 TriFlow | nearest-vertex vector field | latent flow matching | 分区邻接 + QEM 提取 | Tri | topology 连续场化 | 依赖 SDF 与后处理 |
| 26.06 MeshFlow-equivariant | continuous triangle soup | equivariant OT flow | 用集合对称性代替排序 | Tri | 亚秒级、无量化 AR | 连通/焊接不原生保证 |
| 26.06 MeshWeaver | hierarchical next-vertex token + sparse voxel | geometry-guided AR | 体素特征/scaffold 约束 surface weaving | Tri | 18% token ratio,最高 16K faces | 仍串行;依赖 voxel scaffold |
| 26.06 Mesh BDF | barycentric dominance field | 兼容 3D diffusion | 表面场编码顶点连接 | Tri | topology-as-texture,可扩展 | 场离散化决定连通质量 |
| 26.07 LATO.2 | 分离 vertex/topology latent | 两个条件 flow | pairwise edges + loop detection | 显式 mesh | 解耦、更高分辨率/可编辑 | 两阶段与关系解码成本 |
| 26.07 Nexus | octree vertices + Spacetime Interval | 两阶段 diffusion | 连续 per-vertex 拓扑嵌入 | 显式 mesh | 无排序、全局恢复 | 层级采样和解码复杂 |
| 26.07 Meshy T2 | 每顶点连续 latent | voxel flow → mesh flow | 单次解 vertex/edge/winding | 显式 mesh | 约 6 秒、预算控制、多部件 | VAE/scaffold 是质量上限 |
可用于综述的判断
- 三角面难在规模,四边面难在结构。 三角面天然是最小稳定面元,任意多边形都能三角化,生成器主要承担坐标精度、共享顶点和流形一致性;quad 除此之外还要学习全局方向场、奇点、成对边、edge loop 和 chart layout,局部正确并不推出全局可用。
- token 压缩经历了四级语义提升: coordinate → adjacent face/edge traversal → patch/tree/frontier/LOD → continuous topology latent/field。越往后并行度越高,但越依赖 decoder 或提取器把连续预测还原成严格组合结构。
- AR 与 flow/diffusion 的真正分界是合法性来源。 AR 把局部连接规则放进生成顺序,慢但容易逐步约束;flow/diffusion 全局并行,快且无 ordering,但必须靠等变架构、结构化 latent、relation decoder 或连续场提取保证连接。
- 未来 mesh foundation model 更可能是分层而非单一 token 流。 合理层级是 shape/scaffold → vertices → topology/layout → face type/winding → UV/material;LATO.2、Nexus、Meshy T2 和 Strips as Tokens 已分别覆盖其中若干层。
- quad foundation model 需要混合监督。 单有最终 quad mesh 不足以稳定学习,应同时保存结构线、cross-field、奇点、chart、edge-loop、tri/quad 混合位置及 UV;TopGen-220K 的数据设计比单一架构创新更可能成为可扩展基础。
- 评价不能只用 Chamfer/FID。 应分开报告几何误差、边界/非流形率、法线朝向、连通分量、valence/奇点分布、edge-loop 连续性、quad 正交性/长宽比、UV seam,以及相同质量下的 token 数、时延和显存。