采购第一视角双目人类演示数据,不等于采购普通视频。对机器人学习、模仿学习与基础模型团队来说,数据集有多好用,取决于你写进工作说明书(SOW)里的验收标准。含糊表述——「高质量」「同步双目」「位姿不错」——会在交付后变成扯皮。精确、可度量的标准,能让双方在录制第一条 episode 之前,就对「可验收小时」的含义达成一致。
本文是面向买方的实用指南,说明如何为第一视角双目人类演示数据写这些标准。依据是一份可自行核验的公开样片:两条 episode、4,914 帧、合计 163.47 秒(EP001 电脑接线 121.57 s;EP002 补货 41.90 s),以 LeRobot v3 发布在 Hugging Face,许可为 CC BY-NC 4.0。样片背后的核心主张——也是 SOW 应保护的主张——很简单:时间戳是设备记录的,不是事后算出来的。
为什么第一视角双目演示需要验收标准
第一视角双目采集的是带几何与时间结构的第一人称双目彩色视频,这些结构是单目片段没有的。下游管线依赖它们:立体深度与三角测量需要标定基线与低重投影误差;多传感器融合需要设备侧时间戳与连续 IMU;策略训练需要一致的帧时序与文档化的 schema(如 LeRobot)。
若 SOW 只写「提供带 IMU 与位姿的双目 RGB」,你其实还没规定:
- 双目是硬件同步,还是事后软件对齐
- 时间戳来自设备时钟,还是离线插值
- 每批交付附带哪些标定产物
- 数据集加载时必须通过何种格式校验
- 场景多样性如何计数,以及与采集产能如何区分
这些缺口会变成返工、拒收批次与训练延期。下面把每类风险翻译成可直接粘贴的验收条款。
1. 采集几何与视频包络
先把每条可验收 episode 的光学与时间包络写清楚。
建议 SOW 表述
- 双目彩色 RGB,每目 1920×1200,30 fps,硬件同步双目。
- 帧间隔必须稳定:中位数、p99 与最大值一致,约为 33.28 ms,0 帧超规。
- 逐帧时间戳必须 100% 覆盖、设备侧、无插值。
为什么重要:买方若只要求「30 fps 双目」,仍可能收到软同步、时钟漂移的流。硬件同步 + 中位数/p99/最大值同为约 33.28 ms + 零超规帧,才是可判通过/失败的测试。要求设备侧时间戳全覆盖并禁止插值,才能锁住「时间戳是记录的,不是计算的」这一核心主张。
2. IMU 连续性与曝光窗采样
第一视角演示是头戴采集。头部运动与视觉流强耦合,因此 IMU 标准应与视频写在同一验收块。
建议 SOW 表述
- 六轴 IMU,实测约 300.48 Hz。
- 每个曝光窗 10 个 IMU 样本。
- 连续 IMU 流:在所述样片规模下,约 18,050 个连续样本,0 处间隔大于 10 ms。
- 与视觉帧一并交付逐帧 6-DoF 头部位姿。
为什么重要:稀疏或有缺口的 IMU,会迫使下游在样本之间「编造」运动。规定实测速率、每曝光窗样本数与硬性间隔阈值(无 >10 ms 的缺口),连续性才可审计。再配上逐帧 6-DoF 头部位姿,位姿与像素落在同一时间线上。
3. 双目标定产物与几何质量
没有随货标定的双目是不完整的。验收应同时要求参数集与可量化残差检查。
建议 SOW 表述
- 交付内参/外参标定产物:K、KB4、R1/R2、P1/P2、Q、IMU↔相机外参,以及 标定版本标识。
- 双目基线约 60.7 mm。
- 几何质量门(来自代表性公开样片规模):Sampson 中位数 0.166 px,立体重投影 0.800 px,内点 15,811。
为什么重要:点名矩阵与外参,可避免「标定可按需提供」。标定包版本化,便于跨数月量产追踪漂移。残差指标(Sampson、重投影、内点数)给 QA 数值拒收阈值,而不是主观「看起来对齐」。
4. 数据集 schema 与许可
格式摩擦会拖垮评估节奏。加载器与许可应提前写死。
建议 SOW 表述
- 以 LeRobot v3 交付,可通过
LeRobotDataset()加载。 - 数据集须通过 Physical-Intelligence/pi-data-sharing 检查。
- 许可:公开样片参考为 CC BY-NC 4.0;商用交付条款按 SOW 约定。
为什么重要:「兼容 LeRobot」含糊。要求 LeRobot v3 且 LeRobotDataset() 加载成功,是二元门。再要求通过 Physical-Intelligence/pi-data-sharing,可减少定制适配。许可写清,可避免团队内部分叉共享时的再分发意外。
5. 以公开样片为参照物
不要在没有已发布参照的情况下接受供应商首批货。可核验样片把营销主张变成可复现检查。
该类公开样片见 https://huggingface.co/datasets/tatezhou/ego-stereo-cn-v1 与产品站 https://10khoursdata.com。内容包括:
| 项目 | 事实 |
|---|---|
| Episodes | 2(EP001 电脑接线,EP002 补货) |
| 帧数 | 4,914 |
| 时长 | 合计 163.47 s(121.57 s + 41.90 s) |
| 视频 | 每目 1920×1200,双路彩色 RGB,30 fps,硬件同步双目 |
| 时序 | 帧间隔中位数/p99/最大值一致 ~33.28 ms,0 帧超规;逐帧时间戳 100% 覆盖、设备侧、无插值 |
| IMU | 300.48 Hz,每曝光窗 10 样本,18,050 连续样本,0 处间隔 >10 ms |
| 位姿 | 逐帧 6-DoF 头部位姿 |
| 双目 QA | 基线 60.7 mm,Sampson 中位数 0.166 px,立体重投影 0.800 px,内点 15,811 |
| 标定 | K、KB4、R1/R2、P1/P2、Q、IMU↔相机外参、标定版本 |
| Schema | LeRobot v3;LeRobotDataset();通过 Physical-Intelligence/pi-data-sharing |
| 许可 | CC BY-NC 4.0 |
SOW 提示: 把验收附录指向该样片(或等效封存夹具),并要求每批量产在相同测量脚本下达到或优于同一组数值门。
场景库叙事边界:库中仅 EP001 与 EP002 是我方设备采集。不要在 SOW 中把其他库内片段写成我方设备录制。
6. 场景库 vs. 量产产能
买方常把 场景库(用于定范围的内容多样性)与 采集产能(每月可交付多少可验收小时)混为一谈。在 SOW 里分开写。
场景库(定范围参照)
可引用 85 条 / 9 类 场景库做覆盖规划:
- 工厂装配:20
- 电子装配:19
- 居家:17
- 食品与农业:10
- 服装缝纫:8
- 包装:6
- 零售:2
- 仓储物流:2
- 后厨:1
用于讨论任务组合与边界情况。不要把非 EP001/EP002 的库内片段当作我方设备双目采集。
量产产能
另行规定交付吞吐:产能 10,000+ 可验收小时/月。「可验收」应指已通过双目、IMU、时间戳、标定与 schema 门的小时数——不是原始录制时长。
可粘贴 SOW 清单
把下面整块复制进 RFP 或 SOW 附录;仅在项目需要更严门槛时再改阈值。
[ ] 双目彩色 RGB,每目 1920×1200,30 fps,硬件同步双目
[ ] 帧间隔:中位数 = p99 = 最大值 ≈ 33.28 ms;0 帧超规
[ ] 逐帧时间戳:100% 覆盖、设备侧、无插值
(核心主张:时间戳是记录的,不是计算的)
[ ] 六轴 IMU ~300.48 Hz;每曝光窗 10 样本
[ ] IMU 连续性:0 处间隔 >10 ms(样片参照:18,050 连续样本)
[ ] 与视觉帧对齐的逐帧 6-DoF 头部位姿
[ ] 双目基线 ~60.7 mm
[ ] 几何 QA:Sampson 中位数 ≤ 0.166 px;立体重投影 ≤ 0.800 px;
样片规模下内点 ≥ 15,811(或量产批次等效密度)
[ ] 交付标定:K、KB4、R1/R2、P1/P2、Q、IMU↔相机外参、标定版本
[ ] 交付 LeRobot v3;须能用 LeRobotDataset() 加载;须通过
Physical-Intelligence/pi-data-sharing
[ ] 公开样片参照:2 episodes / 4,914 帧 / 163.47 s
(EP001 电脑接线 121.57 s;EP002 补货 41.90 s)
[ ] 许可 / 商用条款已文档化(样片:CC BY-NC 4.0)
[ ] 场景组合规划可引用 85 条 / 9 类;该叙事中仅 EP001/EP002
为我方设备采集
[ ] 月产能以可验收小时表述(参照:10,000+ 可验收小时/月)
[ ] 软交付门:上述任一项硬勾选失败则拒收该批
采购中如何使用清单
- 在 SOW 中附上公开样片 URL,让工程在开工前复现测量。
- 定义「可验收小时」:已通过视频、IMU、时间戳、双目 QA、标定打包与 schema 检查的小时。
- 区分定范围与供给:用 85 条 / 9 类库做内容设计;用 10,000+ 可验收小时/月做体量承诺。
- 在任何场景库叙事中保持 EP001/EP002 为我方设备参照,避免过度主张设备来源。
- 要求标定版本化,使后续批次仍可与第一周验证批次可比。
按这种方式写标准的团队,会少花时间争论「同步质量」,多花时间训练真正能加载、能三角测量、能融合的数据。
下一步
若你正在起草 SOW,请从公开样片起步——两条 episode、4,914 帧、163.47 s 硬件同步第一视角双目,含设备侧时间戳、连续 IMU、随货标定与 LeRobot v3 打包——再把上面的清单贴进附录。
- 样片数据集:https://huggingface.co/datasets/tatezhou/ego-stereo-cn-v1
- 产品站:https://10khoursdata.com
- 联系:tate@10khoursdata.com
先请对方讲解样片时序、IMU 与双目残差是如何测的,再把同一套脚本镜像为你的验收测试。这是从含糊的「双目演示数据」行项目,走到可交付、可审计的第一视角人类演示供给的最短路径。