研究联邦训练对Grad-CAM可解释性的影响
原文：Does Federated Training Degrade Explainability? A Comparative Analysis of Grad-CAM Faithfulness in Centralized vs. Federated Deepfake Detection
自动化检测已成为抵御逼真合成媒体的关键防线，但要大规模部署，就需要在来自多个组织的敏感数据上进行训练，这使得隐私保护与取证审查所要求的透明度之间产生直接冲突。联邦学习通过仅共享模型更新而非原始数据解决了隐私问题，但这是否以牺牲可信的基于梯度的解释为代价，尚未得到研究——而分析师正是依赖这些解释来判断是否应信任某个被标记的视频片段。我们首次对联邦深度伪造检测下Grad-CAM解释忠实度进行了系统研究，在FaceForensics++数据集上评估EfficientNet-B4检测器，涵盖五个联邦客户端在不同数据异构程度下的表现。我们发现联邦与解释质量之间的关系是非单调的：在接近独立同分布（IID）和中等异构程度下，联邦模型的忠实度与集中式基线持平或超越；但在极端异构条件下，解释完全崩溃，变得空间上不连贯，且平均而言在因果上具有误导性。这种退化并非联邦训练的普遍代价，而是与客户端异构性相关的阈值效应。我们提供了实用指导，用于判断隐私保护深度伪造检测何时可以安全部署，以及其解释何时不再可信。代码和数据划分已开放以保证可复现性。作者：Muhammad Uzair Shahid, Muhammad Zabil Mehboob 类别：cs.AI, cs.CR, cs.CV, cs.LG