【新智元导读】不教AI认手,而是从视频天下模子里直接「读」出双手:三大基准SOTA,让百万小时野生视频第一次能酿成机械人的操作课本。
。。。。。 不是捕不了
，，，，，是一到真实场景就崩——你端碗、拧瓶盖、从口袋掏手机
，，，，，手一被盖住
，，，，，最先进的检测器直接报废
，，，，，后面的姿态重修通盘歇菜。
。。。。。 机械人要从人类视频里学操作
，，，，，手部轨迹就是最焦点的监视信号。
。。。。。这份「课本」的质量
，，，，，直接决议了机械人战略学习能到什么水平。
。。。。。 视频蹊径（OmniHands、Dyn-HaMR等）
，，，，，靠跨帧注重力和运动先验以前后帧里找补
，，，，，但时序模？槭悄孟∪钡氖植勘曜⑹菅党隼吹
，，，，，认手都委屈
，，，，，「猜」被盖住的部分基础学不会。
。。。。。 这个逻辑很切合直觉
，，，，，视频天生模子天天看互联网上的海量视频
，，，，，它早就学会「脑补」被盖住的手了——只是此前没人从「手」的角度去挖掘。
。。。。。 这三样能力
，，，，，恰恰是手部动捕这些年求而不得的工具——一个13亿参数的视频大模子在海量互联网视频上自然涌现出来的「天下先验」。
。。。。。 打个例如：一个画了十年画的人
，，，，，他闭着眼都知道手怎么摆、怎么动。
。。。。。你不必再教他认手
，，，，，只需要一支笔
，，，，，让他把脑子里那只手直接画出来。
。。。。。 训练分两步：先在大规模EgoDex数据上做枢纽骨架叠加打底
，，，，，再切到MANO网格叠加做精对齐
，，，，，全程不损失基座模子对场景和物体的明确能力。
。。。。。 两条分支各管一摊——一条整合手的全局信息输出枢纽姿态
，，，，，由于手指弯曲是牵一发动全身的事；；；；一条逐枢纽定位输出2D坐标
，，，，，由于「手指在画面哪」是个局部问题。
。。。。。 手部召回率和F1（综合权衡「有没有找到手」「找得准禁绝」的检测得分）均抵达99.9%
，，，，，帧级准确率99.7%
，，，，，帧级过失率相比最强基线下降凌驾96%——纵然在严重遮挡下也险些不丢手。
。。。。。 这批注
，，，，，视频天下模子从大规模视频中习得的时序一致性、遮挡推理能力、空间几何与手物交互的结构化知识
，，，，，能够为手部运动重修提供强盛的表征支持。
。。。。。 ACE-ViDiHand给出了一条全新的路：直接从视频里把手的4D轨迹读出来
，，，，，不靠检测器、不怕遮挡——大规模人手视频的自动标注
，，，，，第一次有了可靠的手艺底座。
。。。。。 当你能从百万小时的互联网视频里稳固提取手部运动
，，，，，把「野生视频」酿成可学习、可扩展的具身数据资产——具身智能的数据飞轮
，，，，，才算真正最先转。
。。。。。 已往是补丁摞补丁——检测器不可换更好的检测器
，，，，，颤抖大了加平滑模？
，，，，，遮挡扛不住加运动补全。
。。。。。工程量越来越大
，，，，，天花板越来越低。
。。。。。 从「望见手」到「明确手」
，，，，，从「识别行动」到「读取运动」——当视频天生模子的内部表征从天生工具酿成可读取的感知基座
，，，，，具身AI才算拿到了真正可规；；；；氖萑肟凇
。。。。。