[论文解读] Feature Robust Optimal Transport for High-dimensional Data

Mathis Petrovich, Chao Liang+7 more|arXiv (Cornell University)|May 25, 2020

Advanced Neural Network Applications参考文献 49被引用 4

一句话总结

本文提出特征鲁棒最优传输（FROT），一种针对高维数据的新方法，通过最小-最大优化选择判别性特征，以缓解维度灾难问题。FROT采用凸优化形式，利用Sinkhorn子问题的Frank–Wolfe算法求解，在深度神经网络中识别关键层，实现了语义对应任务的最先进性能。

ABSTRACT

Optimal transport is a machine learning problem with applications including distribution comparison, feature selection, and generative adversarial networks. In this paper, we propose feature-robust optimal transport (FROT) for high-dimensional data, which solves high-dimensional OT problems using feature selection to avoid the curse of dimensionality. Specifically, we find a transport plan with discriminative features. To this end, we formulate the FROT problem as a min--max optimization problem. We then propose a convex formulation of the FROT problem and solve it using a Frank--Wolfe-based optimization algorithm, whereby the subproblem can be efficiently solved using the Sinkhorn algorithm. Since FROT finds the transport plan from selected features, it is robust to noise features. To show the effectiveness of FROT, we propose using the FROT algorithm for the layer selection problem in deep neural networks for semantic correspondence. By conducting synthetic and benchmark experiments, we demonstrate that the proposed method can find a strong correspondence by determining important layers. We show that the FROT algorithm achieves state-of-the-art performance in real-world semantic correspondence datasets.

研究动机与目标

• 为解决高维数据（尤其是深度神经网络特征空间）中最优传输（OT）的维度灾难问题。
• 开发一种方法，可在存在噪声或无关特征时，选择信息丰富的特征组（例如网络层）。
• 构建一个凸的、可计算的优化问题，以实现在高维设置下高效计算传输计划。
• 通过基准数据集在真实世界的语义对应任务中证明FROT的有效性。
• 表明通过组稀疏性进行特征选择，相比标准OT或先前的鲁棒OT方法，可提升OT的鲁棒性与性能。

提出的方法

• FROT将最优传输问题表述为在传输计划与特征组选择之间的最小-最大优化，其中最大化步骤选择最具判别性的特征。
• 该方法通过组稀疏性正则化引入对最小-最大问题的凸松弛，实现高效优化。
• 采用Frank–Wolfe算法求解凸化后的FROT问题，每个子问题通过Sinkhorn算法求解熵正则化OT。
• 将特征组（例如特定DNN层的激活）视为原子单元，方法从中选择子集以构建传输计划。
• 正则化参数η控制所选特征组的稀疏性，平衡鲁棒性与性能。
• 该框架自然识别出重要特征（例如关键网络层），无需额外开销，从而实现可解释性。

实验结果

研究问题

• RQ1 通过组稀疏性进行特征选择，能否提升在存在噪声特征的高维数据中最优传输的鲁棒性？
• RQ2 在真实世界数据集的语义对应任务中，FROT是否优于标准最优传输和先前的鲁棒OT方法？
• RQ3 FROT能否有效识别深度神经网络中用于特征匹配的关键层，且该选择是否具有可解释性？
• RQ4 正则化参数η的选择如何影响FROT的性能与特征选择？
• RQ5 FROT在计算上是否高效且可扩展至高维数据（如深度网络激活）？

主要发现

• 在SPair-71k基准上，FROT达到最先进性能，η=0.2时准确率达35.0%，优于OT（30.1%）和SRW（25.3%）。
• 当η=0.5时，FROT在SPair-71k上达到40.0%准确率，显著优于次佳方法SRW（25.3%）。
• 在PASCAL-Part数据集上，FROT（η=0.5）达到61.9%准确率，超过OT（38.0%）和SRW（38.4%）。
• 该方法对噪声具有鲁棒性：在合成实验中，即使80%的特征为噪声，FROT仍能恢复真实传输计划，而标准OT则不能。
• FROT成功识别出用于语义对应的DNN关键层，最优性能在中等η值（如η=0.5）时达到，表明特征组选择有效。
• 消融研究显示，当η值过高（如η=5.0）时性能下降，证实了在特征选择中控制稀疏性的关键作用。