3万小时触觉数据开源!新智具身联合复旦破解具身智能‘手感’难题

近日,上海新智具身智能科技有限公司(NeoteAI)与复旦大学可信具身智能研究院共同发布了N₀系列三份技术报告,标志着具身智能领域在触觉感知技术上取得重大突破。该项目通过整合超过3万小时的视觉-触觉交...

人工智能

近日,上海新智具身智能科技有限公司(NeoteAI)与复旦大学可信具身智能研究院共同发布了N₀系列三份技术报告,标志着具身智能领域在触觉感知技术上取得重大突破。该项目通过整合超过3万小时的视觉-触觉交互数据,成功构建了一个标准化的触觉数据底座,为具身智能机器人提供了关键的‘手感’支持。

在传统具身智能系统中,视觉感知虽然能够识别空间位置和物体形态,但在物理交互过程中却难以捕捉接触瞬间的细微反馈。例如,机器人在插拔接头时可能因力道控制不当导致边缘反复摩擦,或在抓取塑料瓶时因夹持力度过大而造成瓶身变形。这些现象揭示了当前具身智能技术面临的‘最后一厘米’困境:视觉系统虽能判定无误,但物理交互环节却常出现失误。

图片

为解决这一问题,新智具身团队搭建了NeoData数据集,包含约140万条操作片段、33亿个时间步以及80亿帧RGB画面与100亿帧触觉图像。该数据集覆盖了Franka、Piper、UR5e等6种机器人本体,涉及450项真实长程任务,由90位操作员采集完成。同时,团队还开发了NeoForce统一表征模型,能够将不同传感器输出的凝胶形变图、电容矩阵或六维力向量等异构数据转化为具备迁移能力和时序结构化的触觉表征。

图片

此外,项目还提出了VTLA(Vision-Tactile Latent Action)技术路线,通过预测未来触觉信号而非依赖滞后反馈,显著提升了动态交互中的响应速度。这种创新方法有效解决了现有多模态融合实践中触觉信号易被视觉信息淹没的问题,使机器人能够在工厂装配、精细零件组装等复杂场景中实现更精准的操作。

图片

值得注意的是,该项目的数据和模型均已开源,开发者可以直接访问https://research.neoteai.com获取完整资源。这一举措不仅降低了行业门槛,也为全球研究人员提供了宝贵的研究素材,有望加速具身智能技术的普及与应用。

"我们希望通过开源数据和模型,推动整个行业在触觉感知领域的进步,"新智具身首席科学家表示,"这不仅是技术层面的突破,更是具身智能从实验室走向实际应用场景的关键一步。"