多模态大模型中无需保留数据的身份遗忘定位方法
原文：Where Identity Lives: Localized, Retain-Free Identity Unlearning in Multimodal Large Language Models
在部署后，常常需要从多模态大语言模型（MLLM）中删除特定个体的信息，但现有方法依赖保留集（retain set），而这恰恰在最需要它的时候最难获取；重建保留集又会重新制造遗忘学习本欲消除的隐私暴露。而仅依赖遗忘集进行遗忘则会破坏共享的视觉-语言计算，损害感知能力。我们将无需保留集的遗忘学习定义为一个定位问题：因果追踪、权重移植和Fisher重叠分析均指向解码器早中期的MLP层是身份信息存储的位置，而且与其他模块族不同，修改这些层不会显著干扰视觉能力。我们据此提出了路径感知视觉属性锚定（PAVA），它将更新限制在这些层，并将遗忘损失与视觉属性锚定相结合，通过仅从遗忘图像中蒸馏模型自身遗忘前的回答来保持基于图像的行为。在MLLMU-Bench和ReMem上，PAVA在仅使用遗忘集的方法中取得了最强的遗忘-保留权衡，并与基于保留集的基线保持竞争力。