BURGER基准用具身绘画评测VLA模型泛化能力
原文:BURGER: Benchmarking and Understanding Robotic Generalization via Embodied Drawing
随着训练数据规模扩大,视觉-语言-动作(VLA)模型能多有效地学习多样化的语言条件行为?研究这一问题需要大规模且多样的机器人数据集,而在物理机器人上采集这些数据仍然成本高昂。我们引入了BURGER,一个语言条件的机器人绘画基准,配有可扩展的、提示驱动的流水线,用于在仿真和真实世界中生成连续绘画轨迹。在BURGER中,智能体从同一张空白画布出发,控制机械臂绘制由语言指定的物体或空间构图,而每条指令都允许开放式多样的有效绘画和笔画顺序。我们使用涵盖282个绘画任务的28,200个仿真演示,评估了五个代表性VLA模型在数据规模、语言 grounding 和多模态行为方面的表现。BURGER支持对语言 grounding、空间构图和动作生成的细粒度分析,揭示了不同VLA模型之间各异的失败模式。我们的实验表明,一些VLA模型可以从更大的任务多样性和演示规模中受益,能够捕捉多模态绘画行为,并泛化到熟悉物体的未见构图。最后,我们在Franka Panda机械臂上部署了训练好的策略,展示了在人类干预下进行反应式绘画的能力。项目主页和代码见 https://siyingzhao.github.io/BURGER/。作者:Xiangyu Xu, Bangshuai Peng, Ziyi Liu, Mengjie Zhao, Chenhao Lu 类别:cs.RO,cs.AI