弱化诱导在线自蒸馏提升大推理模型能力
原文：Weaken to Strengthen: Weakening-Induced On-Policy Self-Distillation for Large Reasoning Models
自蒸馏为在缺乏合适外部教师模型时提升推理模型提供了一种途径。然而，常见方法依赖特权信息来构建更强的自教师模型，这限制了其在仅有未标注提示可用时的使用。本文提出弱化诱导同策略自蒸馏（WISD），转而构建原始模型的较弱对应版本，并利用二者之间的对比作为训练信号，无需特权信息。我们探索了两种构建较弱模型的方式：低比特量化和幅度剪枝。我们在数学和代码推理任务上跨多种架构和规模评估了WISD。在这些基准上，量化和剪枝分别将平均准确率较原始模型提升4.0和5.5个百分点，即使没有特权信息也达到了最先进性能。值得注意的是，剪枝将Qwen3.5-4B在HMMT 2025上的准确率从57.7%提升至70.5%，在LiveCodeBench v6上从39.1%提升至56.7%。量化将Qwen3.6-35B-A3B在相同基准上的准确率分别从68.5%提升至74.6%、从61.8%提升至69.5%。这些结果确立了WISD作为大型推理模型一种新颖有效的自蒸馏框架。作者：Yecheng Wu, Song Han, Han Cai 类别：cs.AI,cs.CL,cs.LG