提出任务条件化特征变换的持续学习适配器方法
原文：One Adapter, Many Tasks: Task-Conditioned Feature Transformations for Continual Learning
类增量学习（CIL）要求模型在无法访问早期训练数据的情况下增量学习包含新类别的任务，同时保留识别所有已见类别的能力。近年来，基于预训练模型的方法通过在冻结骨干网络上添加轻量级可训练模块而日益流行。然而，现有方法存在局限：任务专属适配器学习显式的每任务表示，但参数和计算效率低下；而基于LoRA的合并方法将各任务的LoRA参数合并到单一模型中，其静态聚合权重会在推理时造成表示干扰。针对这些问题，我们提出FACET：任务条件化特征变换与条件化特征一致性，在实现出色参数效率的同时，在推理时产生高度可区分的特征。在任务序列上持续训练时，FACET学习一个单一共享适配器，该适配器采用动态任务条件化特征变换，将适配器的整体特征分布塑形为重叠减少的任务专属组件的混合。另一方面，我们提出一种高效的无回放任务条件化特征一致性损失，旨在缓解适配器特征空间中已学混合分布的灾难性遗忘。即便只维护单个适配器，FACET也展现出强大的可扩展性。在超长任务序列（如200个任务）和标准短任务序列（如20个任务）上，我们的方法均以显著更少的可训练参数和GFLOPs取得更优性能。论文接收后代码将开源。作者：Yunxiang Fu、Meng Lou、Yizhou Yu