100万小时人类视频训练机器人,Dyna-2转钥匙成功率达90%,具身智能进入数据分工新阶段
近期多家机构验证:通过大规模人类第一视角视频预训练,机器人可在少量真实示范下完成复杂操作。Dyna-2实验显示,100万小时视频预训练使转钥匙任务成功率从0%提升至90%;Natura-1模型以50B...
当机器人面对一把锁盒上的钥匙时,它需要理解的不只是‘转动’这个动作,而是手如何握持、钥匙如何插入、阻力何时出现、角度如何微调——这些细节在传统机器人示范数据中难以穷尽。近期一系列研究指向一个新路径:让机器人直接观看人类操作视频,从中学习任务逻辑与世界动态,再结合少量本体示范完成动作落地。这一策略已在多个实验中取得显著效果。
Dyna Robotics的Dyna-2模型提供了最直观的证据。研究团队设置四组模型,分别用1,000小时、1万小时、10万小时和100万小时的人类第一视角视频进行预训练,随后统一接受不超过10小时的真实机器人任务训练。在14项真机任务之一的‘锁盒转钥匙’测试中,前三组全部失败;而100万小时预训练组在10次尝试中成功9次,成功率高达90%。
这一结果并非偶然。图中清晰显示,随着预训练视频时长从1k增至1M小时(对数尺度),14项任务的平均标准化得分从25分稳步升至53分;具体到‘绳结’与‘锁钥转动’两项高难度任务,100万小时组的成功率从0%跃升至90%,而1k小时组始终为0%。关键在于:所有模型后续使用的机器人示范数据量相同,差异仅来自前期人类视频的积累。这验证了一个核心假设——人类视频能有效补足机器人对‘任务如何展开’的理解,从而降低对稀缺本体数据的依赖。
为何人类视频如此有效?根本原因在于其信息密度与泛化潜力。一段第一视角视频可同时记录手部轨迹、物体状态变化、接触力学信号及任务时序结构,例如拇指与食指开合反映抓握强度,手腕位姿揭示运动路径。Dyna-2正是从中提取三维手部运动作为监督信号,并让模型同步预测‘动作之后世界将如何变化’。离线实验表明,在动作标注数据量固定条件下,额外加入无标签视频用于未来画面预测,模型在39项任务中的预测准确率全面优于仅学动作的基线。
英伟达的DreamZero进一步将‘预测未来画面’纳入决策闭环。研究者围绕9项未见任务补充12分钟无标签人类视频后,机器人平均任务进度从38.3%提升至54.3%。这说明,即使没有动作指令,仅靠视觉序列建模世界动态,也能显著增强行为生成能力。
与此同时,新型数据采集范式正在成型。Figure公司构建贡献者系统,由用户上传第一视角操作视频,经筛选、标注与任务平衡后用于训练; Nature Will发布的Natura-1模型则直接采用100万小时视频预训练,参数达500亿(MoE架构),宣称可零样本响应自然语言指令并驱动灵巧手执行抓取、精细操作与错误恢复等长序列任务。
值得注意的是,人类视频并非简单‘拿来即用’。研究者普遍对原始素材进行深度处理:Dyna-2提取手部运动轨迹;DreamZero聚焦特定任务短视频;HIL-UMI(董豪团队提出)则引入人机协同采集机制——操作者手持通用夹爪(UMI)演示时,模型实时预测自身动作并与人类行为比对,自动识别薄弱环节,指导后续针对性补采。该方法避免了传统HG-DAgger需机械臂实际运行的高成本,实现‘无需机器人执行即可发现模型短板’。
这种分工逻辑日益清晰:人类视频负责建模‘任务逻辑’与‘世界动力学’,即回答‘做什么’和‘会发生什么’;机器人示范则专注‘身体控制’,解决‘这副机械臂如何动’的问题。前者可快速扩展——互联网级视频资源远超机器人示范的采集效率;后者仍稀缺,但因需求精准化而更高效。
行业实践已印证该路径可行性。星动纪元10月开放VPP2视频模型权重,将学习过程拆解为‘预测任务发展→压缩视觉规划→生成动作’三阶段,当前释放前两部分;Skild AI在9月实现‘单段人类视频定义新任务’;Dyna同期探索跨机器人身体的经验迁移。这些努力共同指向同一趋势:具身智能的瓶颈正从‘模型能力不足’转向‘数据供给结构不合理’。
技术挑战依然存在。视频到动作的映射需解决视角差异、尺度变换与接触建模问题;当前成功案例多集中于桌面级操作,复杂环境(如非结构化家庭场景)仍面临泛化难题。此外,高质量第一视角视频的采集、标注与清洗成本仍较高,尚未形成像ImageNet那样的标准数据集。
但方向已然明确。当100万小时的人类经验能让机器人在零样本条件下理解‘转钥匙’这一物理交互,具身智能的训练范式正在发生本质转变:不再等待机器人一遍遍试错,而是先让它‘看懂人类怎么做’,再教会它‘自己怎么动’。这条路径若持续验证有效,机器人学习新技能的周期有望从数周缩短至数小时,真正迈向实用化拐点。
