Keynote · 演讲信息
从成功率到过程诊断的机器人评测实践
随着机器人任务变长、环境更复杂,仅用成功率已难以完整刻画模型能力。
本次分享将介绍 PRM-as-a-Judge 1.5 如何从任务描述与执行视频中估计连续进度曲线,并通过 OPD 过程评测体系分析任务推进、执行效率、回退恢复与成功质量。
结合主流榜单公开轨迹,我们进一步比较 VLA 与 WAM、模型规模及 Sim-to-Real 差异,并通过典型案例和开源工具展示如何从结果判断走向过程诊断。
演讲提纲:
1、为什么只看成功率还不够:机器人执行过程中的信息缺口
2、PRM-as-a-Judge:从执行视频到连续进度曲线
3、OPD 过程评测体系:从任务结果到执行诊断
4、多模型评测:VLA、WAM、模型规模与 Sim-to-Real
5、典型案例与开源工具:从轨迹评测到可视化诊断