Timbre:无标签多模态测试时强化学习共识方法
原文:Timbre: Reliability-aware harmonic consensus for label-free multimodal test-time rexinforcement learning
无标签测试时强化学习利用模型自身预测衍生的奖励来适应视觉-语言模型。然而,被误解的视觉证据和对文本表述的敏感性可能产生一致但错误的共识,而多数投票会强化这种共识。跨视图聚合可以暴露此类错误,但图像和文本变换本身可能在不同程度上降低任务相关证据。我们引入\method,一个面向多模态测试时强化学习的可靠性感知调和共识框架。\method构建一个2×2网格,将原始和扰动图像与直接求解和重构模式相结合,通过加权调和聚合选择伪标签,并利用批平均、时间平滑的伪标签置信度变化作为启发式可靠性信号来调整模态级权重。我们将共识表述为加权χ²重心问题,其唯一最小化器是归一化加权调和聚合,且不要求正确答案不变性。精确的支撑-离散度分解刻画了调和聚合何时保持或纠正算术排名,而敏感性分析确立了模态重加权如何改变成对排名边际,为启发式更新的解释提供依据。在六个基准和三个Qwen3-VL模型规模上,在匹配的估计和优化 rollout 次数下,\method在适应实例上于18个基准-模型设置中的16个优于TTRV,在留出实例上于18个设置中的17个优于TTRV。这些结果证明了目标任务的适应改进以及在无需进一步更新的情况下向未见实例的迁移。作者:Haotian Lyu, Haoyu Wang, Ru Wang, Feng Ji, Ziwen Li 类别:cs.AI