研究多分类中有信息标签缺失的信息几何与风险
原文：Informative Label Missingness in Multiclass Classification Information Geometry and Excess Risk
信息性标签缺失可以改变完全标注分类器与部分标注分类器之间通常的效率排序，因为标签缺失的模式本身可能携带关于分类模型的信息。我们在参数化多分类框架中为这一现象建立了基于似然的通用理论。高效信息分解将不可用类别归属所损失的信息与缺失标签机制贡献的信息区分开来。随后，我们在多分类贝叶斯边界的活跃成对面上推导了插件式超额风险的二次展开，表明分类效率取决于信息增益与损失如何与扰动决策边界的方向对齐。由此得到一个分类加权的广义特征值准则，在该准则下，信息性部分分类可能具有更小的渐近分类风险，而无需在 Fisher 信息上全局优于完全分类。在接近完全随机缺失且边际缺失比例固定的情况下，缺失标签的重新分布会在一阶上改变丢失的类别标签信息，而缺失模式带来的高效信息仅在二阶出现。三分类二次判别分析计算、有限样本实验以及一个半合成的多分类应用实例展示了由此产生的依赖具体情形的行为。作者：Fariborz Setoudehtazang, Geoffrey J. McLachlan 分类：stat.ML,cs.LG