5 万小时人类视频能换多少成功率:三个数字,判断一份「人类数据」值不值得买
同一份 5 万小时第一视角视频,训出两个模型:一个在乱化环境里掉到 68.88%,一个保持 84.60%。差的那 15.72 个百分点,就是判断一份数据值不值钱的入口。
- 事实:Open-HumanScale 发布 Open-HumanScale-50K 语料——5 万小时第一视角(egocentric)人类视频,密集标注手部运动与自然语言,同时开放清洗管线、预训练管线、HumanWAM 检查点、推理代码与仿真评测套件(Hugging Face Daily Papers 2611.06817)。
- 两个模型,四个数:只用人视频预训练再上机器人数据的 HumanWAM-Vanilla,在 RoboTwin 2.0 上拿到 Clean2Clean 92.08%、Clean2Random 68.88%,在 RoboDojo 上平均成功率 14.17%、平均进度分 19.00。加上机器人数据与视觉目标条件的 HumanWAM-Goal,Clean2Clean 92.70%、Clean2Random 84.60%,两项均值 88.65%。
- 缩放律:预训练小时数与下游表现呈经验对数线性关系,且数据多样性会放大缩放收益;人类预训练还能提升「从机器人示范里学」的效率。
- 三个数的用法:92% 那一组已经饱和(两个模型只差 0.62 个百分点);84.60% 对 68.88% 差 15.72 个百分点,是真正有信息量的那一对;RoboDojo 的 14.17% 说明零样本直接上真机还不能用。
- 判断:评估一份人类视频数据集,先问「多样性覆盖了什么」再问「多少小时」。对数线性意味着每翻一倍小时数换来大致相同的分数增量,而采集成本是实打实翻倍——先买覆盖,后买时长。
先说结论:拿到一份「人类视频数据集」的报价单时,别问多少小时,先问它在哪四个数上被验证过。Open-HumanScale 这次把四个数摊在桌面上,正好可以当尺子用。
| 指标 | HumanWAM-Vanilla | HumanWAM-Goal | 差值 |
|---|---|---|---|
| RoboTwin 2.0 Clean2Clean | 92.08% | 92.70% | +0.62 |
| RoboTwin 2.0 Clean2Random | 68.88% | 84.60% | +15.72 |
| 两项均值 | — | 88.65%(原文给出) | — |
| RoboDojo 平均成功率 | 14.17% | 未披露 | — |
| RoboDojo 平均进度分 | 19.00 | 未披露 | — |
这张表怎么读,决定了你会不会买错东西。
第一步,看差 0.62 的那一行,然后跳过它。Clean2Clean 是「干净环境对干净环境」——桌面整洁、物体位置规整、光照稳定。两个模型在这里都到了 92% 以上,差 0.62 个百分点,这在实验噪声范围内。任何供应商拿「我们 Clean2Clean 92%」做卖点,等于告诉你「我在最简单的条件下考了 92 分」。
第二步,看差 15.72 的那一行。Clean2Random 是「干净训练、随机化测试」——物体位置打乱、场景有扰动。Vanilla 掉到 68.88%,Goal 保持 84.60%。同一个语料、同一套后训练流程,唯一差别是有没有视觉目标条件。
判断:这 15.72 个百分点不是数据买来的,是「怎么用数据」买来的。5 万小时视频本身不解决泛化,解决泛化的是把「目标长什么样」作为条件喂进模型——这样遇到没见过的摆法时,模型还能靠目标图像校准动作。
RoboDojo 上 Vanilla 的平均成功率是 14.17%,平均进度分 19.00。这个数字比前两组难看得多,但它最有用。
RoboDojo 属于长程、多任务的评测环境。14.17% 意味着:把一个只见过人类视频的模型直接放到复杂任务上,十次里成功不到两次。它只能完成一部分步骤(进度分 19 分,比成功率略高,说明「开始做了但没做完」)。
判断:这组数字的价值在于给「人类视频能不能替代机器人数据」这个争论一个明确答案——不能。人类视频负责「预训练出一个好的起点」,机器人数据负责「把这个起点接到具体本体上」。想跳过第二步直接上真机,14.17% 就是结局。
顺带一个提醒:原文没给 Goal 模型在 RoboDojo 上的成绩。这意味着 14.17% 是「下限」,不是「这套方法的上限」。引用时不要说成「人类视频模型只有 14%」。
摘要里那句「经验对数线性关系」,翻译成人话是:表现 ≈ a × log(小时数) + b。
这个式子的含义很具体——小时数每翻一倍,分数增加一个大致固定的量(a × ln2)。也就是说:
| 小时数 | 相对 5 万小时的倍数 | 分数增量(相对上一档) | 采集成本 |
|---|---|---|---|
| 2.5 万 | 0.5× | −a×ln2 | 一半 |
| 5 万 | 1×(本项目规模) | 基准 | 基准 |
| 10 万 | 2× | +a×ln2 | 两倍 |
| 20 万 | 4× | +2×a×ln2 | 四倍 |
所以「再买 5 万小时」和「第一次买 5 万小时」的收益不一样——第一次是从 0 到 5 万,收益最大;第二次是从 5 万到 10 万,收益只有 a×ln2;第三次再翻倍,还是 a×ln2,但钱又翻了一倍。
判断:这就是为什么摘要特意加了一句「数据多样性会放大缩放收益」。如果新增的小时数来自同一批场景、同一批任务、同一批人,它只是在给对数曲线续命;如果新增的小时数来自新场景、新物体、新手型,它可能同时抬高斜率 a。买数据的时候,问「这 5 万小时里有多少个不同场景」比问「有没有 10 万小时」更划算。
下面这七条,可以直接抄进采购邮件。每一条都对应上面某个数字。
1. 在哪个基准上验证过?只答 Clean2Clean 的,等于没答(92% 已饱和)。要看 Clean2Random 或同类的随机化设定。
2. 随机化的维度是什么?位置?光照?背景?物体种类?「随机」是个筐,装什么差别很大。
3. 长程任务基准的成绩是多少?RoboDojo 这类评测上的数字最能暴露真实水平。答不出的,说明没测过。
4. 标注了什么?本项目是「手部运动 + 自然语言」。只有视频没有手部标注的语料,训练时得自己做伪标注,成本要另算。
5. 多样性覆盖了多少场景与本体?没有这个数,就无法判断这份语料能不能抬高缩放斜率。
6. 后训练需要多少机器人数据?本项目给了一个参照:人类预训练能提升「从机器人示范里学」的效率。问清对方声称的折算比例,以及这个比例的实测条件。
7. 评测套件给不给?这是最容易被忽略的一条。不给评测套件的语料,你无法验证对方给的分数,也无法和自己的基线对比。
判断:七个问题里,第 1、3、7 条是硬门槛,答不上就不用往下谈。第 2、5 条决定它值多少钱。第 4、6 条决定你接手后还要投多少人力。
发布物清单里包含语料、清洗管线、预训练管线、检查点、推理代码和仿真评测套件——这个组合基本是「可复现」的完整包。但摘要同时注明「文档与上传仍在更新」,实操时要注意两点:先核对仓库当前实际包含哪些目录,再确认检查点与代码的版本是否对齐。
还有一个现实约束:5 万小时的第一视角视频,即便只是读取和预处理,也是相当大的存储与算力开销。想先试水的团队,合理路径是先用评测套件跑一遍基线、确认自己关心的任务在上面有区分度,再决定要不要拉全量语料。
判断:这类开源项目最该被当成「尺子」用,而不是「底座」用。它的价值不是让你省掉采集,而是让你在采购、竞标、立项的时候,有一组别人也认得的数字可对。数对不上,话就聊不下去——这本身就是效率。