提出公式驱动监督度量学习与参数感知三元组损失
原文:FDSML: Formula-Driven Supervised Metric Learning with Parameter-Aware Triplet Loss
公式驱动监督学习(FDSL)无需真实图像即可进行视觉预训练,但现有方法将预训练视为对离散化标签的分类,丢弃了生成过程中的连续性。我们提出公式驱动监督度量学习(FDSML),从图像生成参数中而非离散类别标签中导出关系监督。FDSML结合了FineFractalDB(我们改进的分形数据集,具有更高的类内变化和更稳定的结构)与参数感知三元组(PA-Triplet)损失,后者根据底层迭代函数系统参数空间中的距离分配正负样本。该目标训练嵌入以遵循参数导出的相对相似性排序。实验表明,FDSML提升了对图像检索的迁移能力,同时在下游分类上保持竞争力,并在多种损坏设置下提升了鲁棒性。在ResNet-50上,相比FDSL预训练,Recall@1在Stanford Online Products上从65.6%提升至74.0%,在Stanford Cars上从56.2%提升至78.4%。这些结果表明,参数导出的关系监督为超越识别的迁移提供了比基于标签的分类更强的合成预训练信号。作者:Hina Otake、Shinei Arakawa、Keitaro Tanaka、Yoshihiro Fukuhara、Hirokatsu Kataoka。类别:cs.CV、cs.AI、cs.LG、cs.NE