← 返回 UNIData

一套第一视角数据,八种可组合模态。

八种模态对齐到同一条时间轴——统一 episode、时间戳与坐标系。

逐模态说明:数据区别在哪里

Video 第一视角视频

Egocentric RGB

episode 的原始观测和统一时间轴,所有模态对齐于此。

典型用途
视频理解 · 感知训练动作分段 · 质量回看
核心字段
RGB 视频、帧率、分辨率、逐帧或可恢复时间戳
相机内参、设备和编码信息
可选:Depth、双目/多目、音频、IMU、眼动
推荐标记:遮挡、模糊、掉帧、过曝、手出画、隐私区间
Video 第一视角视频可视化:RGB Input——第一视角原始观测,全部模态对齐的统一时间轴
FIG 01 — RGB Input——第一视角原始观测,全部模态对齐的统一时间轴

深度数据

Depth

为每帧观测补充像素级距离,恢复操作场景三维结构与手物空间关系。

典型用途
三维感知 · 空间关系理解遮挡恢复手物距离与场景重建
核心字段
深度图、深度单位与尺度、分辨率、逐帧时间戳
深度相机内参、与 RGB 相机的外参或对齐方式
可选:有效掩码、置信度、点云、法向、深度补全
推荐标记:无效深度、反光/透明区域、飞点、孔洞
深度数据可视化:Depth-fit——手部模型拟合深度点云(FoundationStereo)
FIG 02 — Depth-fit——手部模型拟合深度点云(FoundationStereo)

MANO 手部重建

Hand Pose (MANO)

可参数化的三维手模型:紧凑形状与姿态参数生成手部 mesh 与关节,左右手分别记录。

典型用途
3D 手势 · 抓取姿态学习手部轨迹人手到机器人映射的基础
核心字段
身份形状 beta:同一操作者 session 内稳定
逐帧姿态 pose/theta(t):手指关节旋转
全局位姿:腕部旋转平移(camera / world frame 需注明)
质量字段:重投影误差、置信度、来源标记(mocap/重建/推断/插值)
MANO 手部重建可视化:HOI reconstruction——双手 mesh 重建,指尖关键点分色验证
FIG 03 — HOI reconstruction——双手 mesh 重建,指尖关键点分色验证

操作物体轨迹

Object Trajectory

被操作对象随时间变化的空间状态;刚体用 6DoF,可动对象加关节状态。

典型用途
物体跟踪 · 状态变化操作结果判定策略监督
核心字段
对象实例 ID、类别、资产 ID 与几何尺度
T_world_object(t) 或 T_camera_object(t)
线速度、角速度、可见性、tracking confidence
关键事件(拿起/旋转/开合…)与操作结果(成败/部分完成)
操作物体轨迹可视化:绿框 = 目标实时追踪 · RGB 轴 = 6DoF 位姿 · 残影与点线 = 历史轨迹
FIG 04 — 绿框 = 目标实时追踪 · RGB 轴 = 6DoF 位姿 · 残影与点线 = 历史轨迹

头部相机轨迹

Camera Trajectory

头戴相机在世界坐标中的 SE(3) 位姿(VIO/SLAM/动捕/多传感器融合),三维时空对齐的关键模态。

典型用途
去除头部运动世界坐标对齐场景重建
核心字段
位置、四元数/旋转矩阵和逐帧时间戳
world / device / camera 三类 frame 定义与外参
tracking state、重定位事件、漂移、置信度
坐标系手性、单位、四元数顺序写入 schema
头部相机轨迹可视化:棋盘格参照场景中的相机运动轨迹回放(VIO/SLAM 输出)
FIG 05 — 棋盘格参照场景中的相机运动轨迹回放(VIO/SLAM 输出)

手物接触状态

Contact State

何时接触、哪根手指、接触在哪里、持续多久——粒度按成本与任务分级。

典型用途
抓取检测 · 接触预测物理一致性奖励构造
核心字段
事件级:approach / touch / grasp / manipulate / release
手指级:五指 + 手掌的 binary 或 probability
点级:手 mesh 顶点 + 物体表面点 + 法向与距离
物理级(力/力矩/压力)仅在有传感器时提供
手物接触状态可视化:Contact regions——指尖级接触区域分色(左五指全接触 / 右捏取)
FIG 06 — Contact regions——指尖级接触区域分色(左五指全接触 / 右捏取)

动作语言指令

Language Instruction

把连续操作转成可供检索、训练和规划使用的语义层:任务—步骤—原子动作三级结构。

典型用途
视频语言 · VLA任务规划检索与评测
核心字段
任务级:如「把杯子放到托盘上」
步骤级:接近/抓住/抬起/移动/放置/松手
原子动作:动词、对象、左右手、接触部位、状态变化
时间对齐:每条标注带 start/end timestamp
动作语言指令可视化:语音指令「拿起电钻并对准螺丝」与第一视角画面实时对齐
FIG 07 — 语音指令「拿起电钻并对准螺丝」与第一视角画面实时对齐

灵巧手重定向

Hand Retargeting

把人手动作映射到目标机器人手的关节与腕部控制空间——受约束优化问题,不是简单复制关节角。

典型用途
遥操作 · 示范迁移行为克隆 · 策略初始化仿真与真机数据生成
核心字段
目标手型号与版本、URDF/MJCF、关节限制与自碰撞模型
q_robot(t) + 腕部目标 + 接触目标
优化残差、碰撞/穿透指标、可行帧比例
仿真回放与成功标签;不同型号分别生成、独立质检
灵巧手重定向可视化:左:人手运动学(X 光风格)· 右:目标灵巧手 · 虚线 = 关键点对应
FIG 08 — 左:人手运动学(X 光风格)· 右:目标灵巧手 · 虚线 = 关键点对应

这些数据怎么来:五阶段闭环

Ego 硬件采集

自研头戴设备以第一视角记录真实操作,采集时即保留后续多模态处理的基础信息:原始视频流、帧时间戳、相机参数、设备状态与任务配置;三维项目在采集前明确深度、IMU 与标定配置。

平台入库 · 清洗 · 切片

统一入库与资产登记(批次/设备/任务/场景/版本),基础质量清洗剔除模糊、过曝、掉帧与手出画片段,隐私合规处理,再把长流拆成语义边界清晰的 episode / step 训练单元。

数据管线加工

把原始观测加工成结构化多模态监督信号:视频与深度对齐、相机轨迹、MANO 手部、物体 6DoF、接触状态、语言对齐、灵巧手重定向——所有输出挂接统一 episode / 时间戳 / 坐标系与 schema 版本。

自建评测过滤

四级过滤:基础可用性 → 模态内部质量(重投影误差/轨迹连续性/跟踪率…)→ 跨模态一致性 → 任务级可训练性;未达标数据进入返修、剔除或重采,不计入有效交付。

沉淀为数据资产

通过评测的数据打包为标准化资产:原始数据 + 训练友好版本 + 多模态标注 + schema/版本 + 质量报告。可交付、可追溯、可复用、可验收——交付量按通过评测的资产计算,而非原始采集时长。

通过评测才计入交付资产——返修 / 剔除 / 重采不计入有效交付量 · 可交付 / 可追溯 / 可复用 / 可验收

推荐组合

推荐产品形态,不限制实际选配

组合包包含模态适合任务
基础视觉包Video视频预训练 · 动作识别 · 人工标注底片
视频语言包Video + Language视频语言模型 · 检索 · 步骤理解 · VLA 预训练
手部动作包主推Video + MANO3D 手部重建 · 手势与抓取姿态学习
三维交互包Video + MANO + Object + Camera世界坐标下的手物联合跟踪和操作重建
接触操作包Video + MANO + Object + Camera + Contact抓取 · 接触预测 · 物理一致性 · 操作阶段识别
语言操作包Video + Object + Contact + Language对象中心的 VLA · 任务规划 · 动作结果理解
灵巧手示范包MANO + Object + Camera + Contact + Retarget遥操作回放 · 模仿学习 · 行为克隆 · 策略初始化
全模态包全部模态端到端具身模型 · 跨模态研究 · 完整评测

按任务选模态

动作识别 / 步骤分割

最低推荐组合Video + Language
增强模态(加购方向)Object、Contact

手部姿态估计

最低推荐组合Video + MANO
增强模态(加购方向)Camera、Depth

手物联合跟踪

最低推荐组合Video + MANO + Object
增强模态(加购方向)Camera、Contact

接触预测 / 抓取检测

最低推荐组合Video + MANO + Object + Contact
增强模态(加购方向)Depth、Camera

VLA / 语言条件策略

最低推荐组合Video + Language + Object
增强模态(加购方向)MANO、Contact

人到机器人模仿学习

最低推荐组合MANO + Object + Contact + Retarget
增强模态(加购方向)Video、Language、Camera

全身 / 移动操作

最低推荐组合Video + Camera + MANO + Object
增强模态(加购方向)身体姿态、IMU、Language

把你的训练任务,配成一组模态

各模态可独立选配,按任务组合;定价与交付口径见数据超市。

SYS / ACTIONREV 2026.08