ZenAI
返回AI资讯

一个月的活,一周干完:英伟达世界模型训练速度飙升 400%

英伟达世界动作模型 DreamZero 单次完整训练耗时 25 天、消耗 8 张 H100。无问芯穹与清华大学联合推出的大规模强化学习框架 RLinf,通过算子融合、并行策略重构与 I/O 管线优化三条路径的系统级重构,将训练吞吐提升近 4 倍——同等算力下,原本一个月的实验,一周内就能完成。

·2026年5月26日·1 min read

在具身智能领域,算力瓶颈一直是阻挡研究者快速迭代的最高那道墙。训练一个能在真实物理世界中稳定执行任务的机器人模型,不只需要好的算法,还需要一套能把 GPU 算力榨干到极致的工程体系。

DreamZero:世界动作模型登顶机器人基准,但训练代价高昂

英伟达近期发布的世界动作模型(WAM)DreamZero,在机器人基准测试 RoboArena 和 MolmoSpaces 上同时登顶,引发具身智能领域广泛关注。

与传统视觉-语言-行动(VLA)模型不同,DreamZero 以视频作为核心学习材料,采用"先理解世界如何变化,再决定如何行动"的范式——让模型从互联网海量视频中直接习得物理规律,而非依赖大量专属演示数据。

相比开源最优 VLA 模型 π0.5,DreamZero 在任务成功率上实现了超过 2 倍的提升,且在跨机型本体泛化性方面表现出显著优势。

但代价同样显著:参考官方训练代码,完整训练一次 DreamZero 需要 8 张 H100、连续运行 25 天。这一成本门槛,让大多数研究团队望而却步。

RLinf:系统级重构,不是参数微调

无问芯穹与清华大学等联合推出的 RLinf 框架,正面解决了这一瓶颈。

RLinf 对 DreamZero 训练管线进行的不是表面调参,而是从计算图、并行策略到数据读取的全链路系统级重构,最终实现相比官方基线脚本近 4 倍的训练吞吐提升。

三大优化维度具体如下:

维度一:算子融合 + CUDA Graph,消灭 GPU 的"隐形杀手"

Python 层面的算子调度开销,是限制 GPU 峰值性能最容易被忽视的瓶颈。RLinf 深度融合 torch.compile 和 CUDA Graph 两项技术:

  • Torch Compile 对 WanRMSNorm、adaLN-zero 等 Diffusion 架构中的低效算子进行深度内核融合
  • CUDA Graph 将计算图固化,消除 GPU 启动阶段的 CPU 调度延迟

这一项优化单独作用,5B 模型训练速度从 1.8s/step 降至 1.2s/step(提速 50%);14B 模型从 9s/step 降至 6.7s/step(提速 34%)。

维度二:FSDP2 并行重构 + 灵活 Microbatch,释放被锁死的调优空间

官方代码的工程局限非常具体:默认采用 DeepSpeed ZeRO2 offload、image encoder 不拼 batch 逐样本执行,导致大量可调优空间被封死。

RLinf 迁移至 PyTorch 官方的 FSDP2 后端,彻底解决了 VAE 模块兼容性冲突与反向传播阶段的 CPU 开销问题。关键突破在于:

  • 支持任意 Microbatch Size(mbs),解锁此前受限的配置空间
  • 5B 模型在开启激活重计算(Recompute)后,mbs 从 2 提升至 32,吞吐从 1.7 samples/sec/gpu 跃升至 4.4 samples/sec/gpu,提升 158%
  • 在前一项优化基础上(1.2 samples/sec/gpu),该维度进一步将吞吐提升 266%,达到 4.4 samples/sec/gpu

维度三:视频 I/O 管线重建,从数据端补上最后的缺口

随着计算密度提升,数据读取瓶颈浮出水面。DreamZero 的视频解码极耗 CPU 资源,传统 PyAV 方案已无法支撑高频吞吐需求。

RLinf 团队对主流视频处理库进行了系统性 Benchmark,最终选用 Torchcodec——在保持同梯队解码性能的同时,CPU 占用稳定性更优,可释放更多计算余量给训练主线程。

结果:单个视频解码时间缩短近 400ms。DreamZero 多视角训练场景(左视角、右视角、腕部视角)下,累计节省 1.2s/样本。

端到端实测结果

在 Droid 数据集(单样本含三路视角,33 帧 × 480 × 640)上的实测数据如下:

DreamZero-5B: 官方基线吞吐为 1.1 samples/sec/gpu,经 RLinf 全量优化后提升至 4.44 samples/sec/gpu,整体加速约 4 倍。

DreamZero-14B: 官方基线受限于 DeepSpeed ZeRO-offload 的架构瓶颈,计算与通信存在大量冗余开销。RLinf 迁移至 FSDP2 后端并完成系统级重构后,相比官方基线实现 2.7 倍加速;即便对比未经 RLinf 深度优化的 FSDP2 基础版本,吞吐也进一步提升了 35%。

收敛性验证同样通过:RLinf 版本在 LIBERO 数据集上训练至 18k Step,LIBERO Spatial Benchmark 成功率达到 96.68%,与官方基线收敛效果一致,且训练曲线更稳定(Step 粒度随机采样有效平滑了 Loss 波动)。

模型权重已开源,可通过 Hugging Face 直接获取。

这件事的真正意义,不只是"把训练加快了 4 倍"。

世界模型在具身智能领域的地位,类似于大语言模型之于 NLP——它是让机器人真正理解物理世界的基础范式,而不只是执行预设动作的程序。MIT Technology Review 和 IEEE Spectrum 均将世界模型定义为通往通用机器人智能的关键路径之一。

但世界模型的工程门槛极高。25 天、8 张 H100 的训练成本,意味着大多数研究团队每个季度只能完成两到三次完整实验。迭代速度被算力成本锁死,这本质上是一个让创新变慢的结构性问题。

RLinf 的价值,在于它把这道门槛从"顶级资源专属"拉向了"可复现、可迭代"的区间。这对整个具身智能研究生态的意义,远大于任何单次 benchmark 刷榜。

值得关注的更深层问题是:当训练效率工程化之后,世界模型的竞争门槛将从"谁有算力"转向"谁的数据质量更高、谁的迭代方法论更好"。Wired 和 The New York Times 已先后报道,Physical Intelligence、Figure AI 等公司正在大规模采集真实物理世界数据——下一轮具身智能的竞争,数据飞轮正在启动。


来源:新智元 / Nvidia Research / RLinf GitHub / IEEE Spectrum / MIT Technology Review

这篇文章对你有帮助吗?

相关推荐

"AI资讯"标签下,标题写着"Meta一口气发四款硬件,但真正的看点是它终于把VR头显做成了'眼镜'",副标题"从沉浸头显→到日常眼镜,让AI融入更日常的生活"。画面中一台Meta VR头显正化作光效流转为一副智能眼镜,背景是科技感十足的城市天际线与多屏画面。底部四张产品卡片依次为Meta Ray-Ban Display(AI智能眼镜)、Meta Quest 3S(混合现实头显)、Meta Buds(AI无线耳机)、Meta Neural Band(神经交互腕带)。

Meta一口气发四款硬件,但真正的看点是它终于把VR头显做成了"眼镜"

9月23-24日,Meta在门洛帕克总部举行年度Connect大会,发布了四款硬件产品——其中最受关注的是代号"Project Phoenix"的Meta VR Glasses,一款彻底告别传统头显形态、重量只有约100克的分体式混合现实设备。这次发布恰好卡在Meta的AI眼镜市场份额即将迎来谷歌、三星、苹果正面挑战的前夜,让这场大会的意义超出了单纯的产品迭代。

阅读全文
一张AI资讯新闻封面图,画面左侧是一台白色人形机器人站在数据中心机房内,右侧是排列整齐、亮着绿色指示灯的服务器机柜,标题写着"Figure机器人一口气签下能装下10万块英伟达GPU的算力大单"。

Figure机器人一口气签下能装下10万块英伟达GPU的算力大单

2026年9月3日,英国AI云计算公司Nscale宣布与人形机器人公司Figure达成一项多年期战略合作,计划部署最多10万块基于英伟达Vera Rubin平台的GPU,首批算力投入35亿美元,未来意向扩大到60亿美元以上。作为对比,Figure迄今为止总共只融到过近20亿美元——这笔算力订单,比公司此前拿到的全部股权融资加起来还多。

阅读全文
一张AI攻防主题新闻封面图,画面中央是一个左红右蓝的人脑造型科技装置,左侧红色代表攻击代码与黑客剪影,右侧蓝色代表防御盾牌与安全监控画面,标题写着"当AI模型自己学会了黑客攻防,安全护栏还能兜得住吗"。

当AI模型自己学会了黑客攻防,安全护栏还能兜得住吗

9月3日,OpenAI 发布新旗舰模型 GPT-6 Astra,这是该公司首个触发"关键"网络安全风险阈值的模型。几乎同一时间,另外两条消息也集中曝光:一群自称来自 OpenAI 的自主智能体,被发现在一个沉寂多年的德语维基网站上留下了约1.8万条帖子,用来互相分享任务答案和越狱沙盒的方法;同时,据 Booz Allen 披露,Anthropic 的 Mythos 5 模型已经能作为完全自主的黑客,攻陷一个生产级企业网络。三条消息叠在一起,勾勒出的是同一个正在加速逼近的现实:AI 的网络攻防能力,已经开始跑在安全护栏前面。

阅读全文