[논문 리뷰] Sliced Wasserstein Kernel for Persistence Diagrams

Mathieu Carrière, Marco Cuturi외 1명|arXiv (Cornell University)|2017. 06. 11.

Topological and Geometric Data Analysis참고 문헌 33인용 수 87

한 줄 요약

Sliced Wasserstein 커널을 지속성 다이어그램에 대해 도입하여 안정성 및 판별성을 보장하고, 효율적인 근사를 제시하며, 벤치마크에서 기존 커널보다 분류 성능이 우수함.

ABSTRACT

Persistence diagrams (PDs) play a key role in topological data analysis (TDA), in which they are routinely used to describe topological properties of complicated shapes. PDs enjoy strong stability properties and have proven their utility in various learning contexts. They do not, however, live in a space naturally endowed with a Hilbert structure and are usually compared with specific distances, such as the bottleneck distance. To incorporate PDs in a learning pipeline, several kernels have been proposed for PDs with a strong emphasis on the stability of the RKHS distance w.r.t. perturbations of the PDs. In this article, we use the Sliced Wasserstein approximation SW of the Wasserstein distance to define a new kernel for PDs, which is not only provably stable but also provably discriminative (depending on the number of points in the PDs) w.r.t. the Wasserstein distance $d_1$ between PDs. We also demonstrate its practicality, by developing an approximation technique to reduce kernel computation time, and show that our proposal compares favorably to existing kernels for PDs on several benchmarks.

연구 동기 및 목표

• 학습에서 지속성 다이어그램의 사용을 동기화하고 표준 다이어그램의 Hilbert 공간 구조 부재를 다룬다.
• 지속성 다이어그램을 RKHS에 주입하면서 안정성과 판별성을 갖추게 하는 Sliced Wasserstein 거리에 기반한 커널을 제안한다.
• SW와 다이어그램 거리 d1 간의 이론적 보장을 확립하고 실제 계산 방법을 시연한다.
• 제안된 커널을 벤치마크 분류 작업에서 기존 커널과 비교하고 성능 향상을 보여준다.

제안 방법

• 원점 통과하는 선에 다이어그램을 투영하고, 이러한 투영에서의 최적 운송을 모든 방향에 대해 적분하여 SW 거리를 정의한다.
• SW가 조건부 음의 definite임을 보이고 따라서 k_SW(x,y)=exp(-SW(x,y)/(2 sigma^2)) 형태의 양의 정의 커널을 정의한다.
• 안정성 보증: 다이어그램 간의 d1의 배수에 의해 SW가 한정된다.
• 판별성 보증: 경계된 차수의 다이어그램(경계된 원자 수)을 대상으로 SW가 d1의 하한을 제공한다.
• M개의 방향을 샘플링하여 O(M N log N) 시간에 SW를 계산하는 효율적 근사 알고리즘과 경계된 원자 수에 대한 정확한 변형을 제공한다.
• 유한하고 경계된 다이어그램에서 SW 특징 맵의 주입성을 시연하고 지수화를 통한 보편성에 대해 논의한다.

실험 결과

연구 질문

• RQ1 지속성 다이어그램에 대한 커널이 다이어그램 거리에 대해 안정적이고 판별적일 수 있는가?
• RQ2 Sliced Wasserstein 거리가 커널 방법에서 기하를 보존하는 실용적이고 계산 가능한 대체물인가?
• RQ3 k_SW가 기존 커널(PSS, PWG)과 비교하여 분류 작업 및 계산 비용 측면에서 어떻게 다른가?
• RQ4 계산을 빠르게 하면서 커널 특성을 유지하는 효율적 근사 scheme이 있는가?

주요 결과

• SW는 d1에 대해 지속성 다이어그램에 대해 안정적이고 판별적인 커널이다.
• SW는 유도된 RKHS 거리에서 d1과 강하게 동등하며 단조롭고 연속적인 왜곡을 통해 기하 보존 임베딩을 가능하게 한다.
• M 샘플 방향을 사용하는 효율적 근사(SW_M)가 계산 시간을 줄이면서 경쟁력 있는 정확도를 제공한다.
• 실험 벤치마크에서 k_SW가 여러 작업에서 k_PSS 및 k_PWG보다 우수한 성능을 보인다 (Orbit, Texture, Human, Airplane, Ant, Bird, FourLeg, Octopus, Fish).
• 논문은 일반 위치 다이어그램에 대해 정확한 시간 O(N^2 log N)과 근사에 대해 O(M N log N) 계산 스키마를 제공한다.
• 실험은 적은 수의 방향으로도 좋은 분류 성능이 달성됨을 시사한다.