基于运动基元表示的平滑动作分块模仿学习
原文:Smooth Action Chunking Via Movement-Primitive Representations for Imitation Learning
模仿学习因其概念简单、可扩展以及能够利用大规模数据集,已成为基于视觉的机器人策略广泛采用的方法。随着这些策略能力不断增强,动作分块已成为其标准接口。在每个决策步骤中,策略一次性输出多个未来动作。从扩散策略到大型视觉-语言-动作模型,各类骨干网络都采用这一接口。无论由哪种骨干网络生成动作块,其时间结构都只是隐式学习得到的。因此,所指令的轨迹在单个动作块内部以及相邻动作块之间都是不平稳的。在真实硬件上,这表现为可见的振动以及从动端速度限制的反复饱和。我们通过将基于运动基元的轨迹表示引入动作分块来解决这一问题。具体而言,轨迹段被表示为平滑基函数的线性组合,从而在构造上即产生平滑轨迹,同时不改变策略架构、训练目标和推理过程。同一表示还为抖动的第二个来源提供了一种闭式、推理时的校正。我们对预测系数施加条件,使新动作块经过前一个动作块最后指令动作处的途经点。该校正无需重新训练,并且与异步实时分块不同,适用于一次性查询的策略。我们在一次性(ACT)和迭代式(DiT)骨干网络上实例化该方法,并在仿真和真实双臂ALOHA平台上进行评估。该表示在一次性骨干网络上将块内抖动降低了一个数量级,在迭代式骨干网络上降低了2.4倍,任务成功率在统计上不劣于基线。随后,条件化消除了73-84%的边界不连续性,且每步开销可忽略不计。作者:Shota Nomura, Takayuki Osa, Yasuhiro Kato, Kazuki Ota, Naoki Shitanda 类别:cs.LG,cs.RO