AI评分 一般 (57)AI 中文改写
英伟达推出Cosmos 3开放模型,用于交互式世界模拟
2 天前 1 阅读来源:HuggingFace Blog
AI 中文改写
原文为英文,由 AI 改写为中文报道,内容完整。如需参考原文请点击下方链接
英伟达在HuggingFace上发布了Cosmos 3世界模型家族的四个新开放权重检查点,全部基于Cosmos 3 Nano后训练而来,每个模型拥有160亿可训练参数。这四个模型分别面向自动驾驶场景生成和机器人动作预测:Transfer-Auto负责从驾驶场景生成多传感器数据,Sim-Auto负责将驾驶控制信号转化为流式观测,Sim-Transfer把模拟器控制指令和文本提示变成逼真视频,Sim-Bimanual则根据机器人或相机动作预测视频画面。所有模型采用OpenMDW1.1许可协议,允许商业和非商业使用,权重和技术报告均已公开。
这批模型瞄准的是具身智能和自动驾驶研发中最棘手的基础设施问题——训练环境。机器人策略需要在不断变化的场景和视角下验证动作的视觉后果,Sim-Bimanual直接根据动作预测画面,Sim-Transfer则把物理模拟器的控制信号翻译成生成的观测数据,两条路径互为补充。自动驾驶方面,Transfer-Auto支持最多11路相机视角的同步视频生成,包括鱼眼镜头,并能联合生成RGB图像和激光雷达数据,每路相机可通过世界场景地图控制场景结构和交通运动,文本提示则引导外观风格,开发者还能调节天气、光照、时段等环境条件来扩展训练和评估覆盖范围。Sim-Auto则是Transfer-Auto经过因果训练和少步蒸馏后的流式版本,专门用于快速交互式仿真。
英伟达的意图不止于放出几个模型。官方明确表示,开放权重和后训练配方是希望给研究者一个共同的起点,方便适配自有传感器配置、比较不同方法、贡献改进。Transfer-Auto本身就被设计为适配基础——开发者可以先用自家数据后训练,让模型适应特定的相机布局、激光雷达配置和目标环境,再走因果训练加蒸馏的路径得到流式仿真模型,这正是Sim-Auto的诞生路径。不过英伟达也坦承问题远未解决:这些模型在多大程度上能忠实支撑策略学习和评估,边界在哪里,都还需要社区共同测量和补短。对做自动驾驶仿真和机器人训练的中国团队来说,这意味着多了一套可商用、可二次开发的基座选项,但落地前仍需用自己的数据做适配验证。
这篇文章对你有帮助吗?
觉得有用?分享给更多人
留言 · 0 条
暂无留言,来说两句吧
