[논문 리뷰] Feature Robust Optimal Transport for High-dimensional Data

Mathis Petrovich, Chao Liang외 7명|arXiv (Cornell University)|2020. 05. 25.

Advanced Neural Network Applications참고 문헌 49인용 수 4

한 줄 요약

이 논문은 고차원 데이터를 위한 새로운 방법인 특징 내성 최적 운반(FROT)을 제안한다. FROT는 최소-최대 최적화를 통해 분류 능력이 뛰어난 특징을 선택하여 차원의 극복 문제를 완화한다. FROT는 스킨서니즘 하위문제를 포함한 프랭크-울프 알고리즘으로 해결하는 볼록 최적화 문제를 사용하며, 딥 네ural 네트워크 내 핵심 레이어를 식별함으로써 의미적 대응 작업에서 최신 기술 성능을 달성한다.

ABSTRACT

Optimal transport is a machine learning problem with applications including distribution comparison, feature selection, and generative adversarial networks. In this paper, we propose feature-robust optimal transport (FROT) for high-dimensional data, which solves high-dimensional OT problems using feature selection to avoid the curse of dimensionality. Specifically, we find a transport plan with discriminative features. To this end, we formulate the FROT problem as a min--max optimization problem. We then propose a convex formulation of the FROT problem and solve it using a Frank--Wolfe-based optimization algorithm, whereby the subproblem can be efficiently solved using the Sinkhorn algorithm. Since FROT finds the transport plan from selected features, it is robust to noise features. To show the effectiveness of FROT, we propose using the FROT algorithm for the layer selection problem in deep neural networks for semantic correspondence. By conducting synthetic and benchmark experiments, we demonstrate that the proposed method can find a strong correspondence by determining important layers. We show that the FROT algorithm achieves state-of-the-art performance in real-world semantic correspondence datasets.

연구 동기 및 목표

• 고차원 데이터의 최적 운반(OT)에서 차원의 극복 문제를 해결하기 위해, 특히 딥 네ural 네트워크 특징 공간에서의 적용을 목표로 한다.
• 노이즈가 있거나 관련이 없는 특징에 대해 강건한 정보성 특징 그룹(예: 네트워크 레이어)을 선택하는 방법을 개발한다.
• 고차원 환경에서 운반 계획을 효율적으로 계산할 수 있도록 해주는 볼록하고 해석 가능한 최적화 문제를 제시한다.
• 기준 데이터셋을 사용하여 실제 의미적 대응 작업에서 FROT의 효과성을 입증한다.
• 그룹 스parserity를 통한 특징 선택이 기존 OT나 이전의 강건한 OT 방법보다 최적 운반의 강건성과 성능을 향상시킨다.

제안 방법

• FROT는 운반 계획과 특징 그룹 선택에 대한 최소-최대 최적화 문제로 최적 운반 문제를 설정하며, 최대 단계에서 가장 분류 능력이 뛰어난 특징을 선택한다.
• 이 방법은 그룹 스parse 정규화를 사용한 볼록 근사화를 도입하여 효율적인 최적화를 가능하게 한다.
• 프랭크-울프 알고리즘을 사용하여 볼록화된 FROT 문제를 해결하며, 각 하위문제는 엔트로피 정규화된 OT를 위한 스킨서니즘 알고리즘으로 해결된다.
• 특징 그룹(예: 특정 DNN 레이어의 활성화)은 원자 단위로 간주되며, 이 중 일부가 운반 계획을 구성하는 데 선택된다.
• 정규화 파rameter η는 선택된 특징 그룹의 스parse 성을 제어하며, 강건성과 성능 간의 균형을 이룬다.
• 추가 비용 없이 자연스럽게 중요한 특징(예: 핵심 네트워크 레이어)을 식별할 수 있어 해석 가능성을 제공한다.

실험 결과

연구 질문

• RQ1 그룹 스parse를 통한 특징 선택이 노이즈가 많은 고차원 데이터에서 최적 운반의 강건성 향상에 기여하는가?
• RQ2 실제 데이터셋에서 의미적 대응 작업에서 FROT가 표준 OT나 이전의 강건한 OT 방법보다 뛰어난 성능을 보이는가?
• RQ3 FROT는 딥 네럴 네트워크에서 특징 매칭을 위한 중요한 레이어를 효과적으로 식별할 수 있으며, 이 선택은 해석 가능한가?
• RQ4 정규화 파rameter η의 선택이 FROT의 성능 및 특징 선택에 어떤 영향을 미치는가?
• RQ5 FROT는 고차원 데이터(예: 딥 네트워크 활성화)에 대해 계산적으로 효율적이고 확장 가능한가?

주요 결과

• FROT는 SPair-71k 벤치마크에서 최신 기술 성능을 달성하였으며, η=0.2일 때 35.0%의 정확도를 기록하여 OT(30.1%)와 SRW(25.3%)를 초월했다.
• η=0.5일 때 FROT는 SPair-71k에서 40.0%의 정확도를 달성하여 다음으로 우수한 성능을 보인 SRW(25.3%)를 크게 앞서 갔다.
• FROT는 η=0.5일 때 PASCAL-Part 데이터셋에서 61.9%의 정확도를 기록하여 OT(38.0%)와 SRW(38.4%)를 뛰어넘었다.
• 노이즈에 대한 강건성은 실험적으로 입증되었으며, 합성 실험에서 80%의 특징이 노이즈일 경우에도 FROT는 진짜 운반 계획을 회복할 수 있었고, 표준 OT는 그렇지 못했다.
• FROT는 의미적 대응 작업에서 핵심 DNN 레이어를 성공적으로 식별하였으며, 중간 정도의 η 값(예: η=0.5)에서 최적 성능를 달성하여 효과적인 특징 그룹 선택이 이루어졌음을 보여주었다.
• 제거 분석 결과, 매우 높은 η 값(예: η=5.0)일 경우 성능이 저하됨을 확인하여 특징 선택에서 통제된 스parse 성의 중요성을 입증했다.