Gym-Anything用数字智能体扩展机器人物理仿真训练
原文:Gym-Anything for Robotics: Scaling physical simulations with digital agents
逼真、快速的机器人仿真能够支持具身AI模型的大规模训练,并将所学迁移到真实世界。然而,尽管经过数十年的进展,现有仿真仅覆盖了有限范围的现实任务和物理现象。核心瓶颈在于,创建更好的仿真需要大量专家投入,因而无法规模化。为解决这一问题,我们推出了Gym-Anything for Robotics,一个由编码智能体创建逼真机器人仿真的框架。我们的核心洞见是:仿真创建本质上是一项编码智能体任务,因此编码智能体的进步会直接转化为更丰富、更忠实的仿真。我们基于美国GDP数据选择仿真任务,以覆盖具有经济价值的物理工作,定义了何为优质仿真和优质任务,并开发了一个对抗式创建-审核循环,依据这些定义检查每个仿真和任务。利用这一流程,我们构建了RoboWorld——包含25个仿真、25个测试环境和175个不同难度的训练RL环境。即使最先进的前沿模型在RoboWorld的每个测试任务上均告失败,平均奖励仅为0.06。基于RoboWorld,我们引入了多种新方法帮助前沿模型提升能力,包括跨重复尝试的上下文学习、读取模拟器状态并在上下文中教导学生的特权教师、从模型自身特权经验中进行的自辅助学习,以及生成跨多样场景演示以训练视觉-语言-动作模型(VLA,如$π_{0.5}$)的代码策略。每种方法均显著提升了性能。我们发布了流程、RL环境和基准以促进未来研究。代码和数据见 https://gym-anything.github.io/robotics 作者:Pranjal Aggarwal, Sean Welleck 分类:cs.RO,cs.AI,cs.LG