[论文解读] Max-Margin Invariant Features from Transformed Unlabeled Data

Dipan K. Pal, Ashwin A. Kannan+2 more|arXiv (Cornell University)|Oct 24, 2017

Face recognition and analysis参考文献 21被引用 4

一句话总结

该论文提出了一种名为最大边缘不变特征（Max-Margin Invariant Features, MMIF）的新方法，通过仅使用未标注的变换数据来学习对干扰变换不变的表示，而无需依赖带标签的数据增强。通过在再生核希尔伯特空间中对群平均进行理论保证的不变核构造，MMIF在人脸识别任务中实现了最先进性能，包括在大规模半合成数据集和LFW数据集上的新协议上，展示了对单样本输入的强大泛化能力。

ABSTRACT

The study of representations invariant to common transformations of the data is important to learning. Most techniques have focused on local approximate invariance implemented within expensive optimization frameworks lacking explicit theoretical guarantees. In this paper, we study kernels that are invariant to a unitary group while having theoretical guarantees in addressing the important practical issue of unavailability of transformed versions of labelled data. A problem we call the Unlabeled Transformation Problem which is a special form of semi-supervised learning and one-shot learning. We present a theoretically motivated alternate approach to the invariant kernel SVM based on which we propose Max-Margin Invariant Features (MMIF) to solve this problem. As an illustration, we design an framework for face recognition and demonstrate the efficacy of our approach on a large scale semi-synthetic dataset with 153,000 images and a new challenging protocol on Labelled Faces in the Wild (LFW) while out-performing strong baselines.

研究动机与目标

• 为解决在无法获得带标签变换数据的情况下学习不变表示的挑战，即所谓的未标注变换（Unlabeled Transformation, UT）问题。
• 开发一种理论基础坚实的算法，确保对酉群变换的不变性，且不依赖于带标签的数据增强。
• 通过从仅在未标注数据中观察到的变换中提取不变特征，实现单样本学习。
• 将最大边缘分类与通过正半定不变核实现的显式不变性相结合。

提出的方法

• 在再生核希尔伯特空间（RKHS）中提出群平均核算子 $\Psi_{\mathcal{H}} = \int_{\mathcal{G}_{\mathcal{H}}} g_{\mathcal{H}} dg_{\mathcal{H}}$，以强制实现对酉群作用的不变性。
• 将MMIF特征定义为 $\mathrm{MMIF}(x') = \langle l(x'), \omega_k \rangle$，其中 $l(x')_i = \langle \phi(x'), \Psi_{\mathcal{H}} \phi(t_i) \rangle$，$\omega_k$ 为SVM对偶解中的每个基向量。
• 利用核积在群作用下的不变性，确保对任意 $g' \in \mathcal{G}$ 都有 $\mathrm{MMIF}(x') = \mathrm{MMIF}(g'x')$，从而使特征对在未标注数据中观察到的变换保持不变。
• 通过证明不变核在变换数据流形上保持原始SVM分类器的边缘，建立理论保证。
• 通过构造使特征映射 $l(x')$ 在群变换下保持不变，利用酉群性质和哈尔测度归一化。
• 通过使用具有姿态、光照或表情变化的未标注图像来学习不变性，而无需带标签增强，将该方法应用于人脸识别。

实验结果

研究问题

• RQ1 当仅能获得未标注的变换数据而无法使用带标签数据增强时，能否学习到变换不变表示？
• RQ2 能否构造一个在酉群变换下可证明不变的正半定核，同时保持SVM的最大边缘特性？
• RQ3 所提出的MMIF框架是否能通过从单个带标签样本泛化，实现对未见变换的有效单样本学习？
• RQ4 核的理论不变性在半监督和单样本学习场景中的实际性能提升方面如何体现？
• RQ5 在无法进行带标签数据增强的场景下，该方法是否能超越现有基于数据增强的方法？

主要发现

• MMIF在包含153,000张图像的大规模半合成人脸数据集上实现了最先进性能，在对干扰变换的泛化能力方面优于强基线方法。
• 该方法在LFW数据集的新且具有挑战性的协议上表现出稳健性能，证实了其在真实世界单样本学习场景中的有效性。
• 理论分析证明，不变核 $\Psi_{\mathcal{H}}$ 保持了最大边缘特性，确保原始数据的最优分离超平面也是变换数据流形上的最优分离超平面。
• MMIF特征的每个维度对 $\mathcal{G}$ 中的变换均保持不变，如恒等式 $l(x')_i = l(g'x')_i$ 对所有 $g' \in \mathcal{G}$ 成立，确保了完全不变性。
• 该框架仅通过未标注数据成功学习了不变性，解决了未标注变换问题，且无需事先了解变换模型。
• 实证结果证实，MMIF仅使用单个带标签样本即可实现有效泛化，验证了其在低数据场景下的实用性。