[논문 리뷰] On the Metric Distortion of Embedding Persistence Diagrams into Reproducing Kernel Hilbert Spaces.

Mathieu Carrière, Ulrich Bauer|arXiv (Cornell University)|2018. 06. 19.

Topological and Geometric Data Analysis인용 수 2

한 줄 요약

이 논문은 커널 방법을 통해 재생 핵 힐버트 공간(RKHS)에 영구 다이어그램을 임bedding할 때 발생하는 거리 왜곡(metric distortion)을 조사한다. 유한차원 RKHS에서는 심지어 다이어그램의 원소 수가 유계이더라도 이중 리프시츠(_bi-Lipschitz_) 임베딩이 불가능하다는 것을 증명하고, 무한차원 RKHS에서는 거리 왜곡의 하한값이 반드시 다이어그램의 원소 수에 의존해야 한다는 것을 보여준다.

ABSTRACT

Persistence diagrams are important feature descriptors in Topological Data Analysis. Due to the nonlinearity of the space of persistence diagrams equipped with their {\em diagram distances}, most of the recent attempts at using persistence diagrams in Machine Learning have been done through kernel methods, i.e., embeddings of persistence diagrams into Reproducing Kernel Hilbert Spaces (RKHS), in which all computations can be performed easily. Since persistence diagrams enjoy theoretical stability guarantees for the diagram distances, the {\em metric properties} of a kernel $k$, i.e., the relationship between the RKHS distance $d_k$ and the diagram distances, are of central interest for understanding if the persistence diagram guarantees carry over to the embedding. In this article, we study the possibility of embedding persistence diagrams into RKHS with bi-Lipschitz maps. In particular, we show that when the RKHS is infinite dimensional, any lower bound must depend on the cardinalities of the persistence diagrams, and that when the RKHS is finite dimensional, finding a bi-Lipschitz embedding is impossible, even when restricting the persistence diagrams to have bounded cardinalities.

연구 동기 및 목표

• 다이어그램 거리에 대한 영구 다이어그램의 이론적 안정성 보장이 커널 방법을 통해 RKHS에 임베딩될 때 그대로 유지되는지 이해하는 것.
• 다이어그램 거리에 대해 영구 다이어그램 공간에서 RKHS로의 이중 리프시츠 임베딩의 존재 여부를 조사하는 것.
• 무한차원 RKHS에서 거리 왜곡이 다이어그램 원소 수에 어떻게 의존하는지 규명하는 것.
• 유한차원 RKHS에 영구 다이어그램을 거리의 구조를 유지하면서 임베딩할 수 있는 기본적인 제약 조건을 설정하는 것.

제안 방법

• 분석은 다이어그램 거리(예: 와서스타인 또는 볼트넥 거리)와 커널 함수에 의해 유도되는 RKHS 거리 사이의 관계에 집중한다.
• 논문은 영구 다이어그램 공간과 RKHS 사이의 이중 리프시츠 사상 존재성을 연구하기 위해 기하학적 및 함수해석학적 기법을 사용한다.
• 유한차원과 무한차원 RKHS 설정을 모두 고려하여 임베딩의 가능성 여부를 비교한다.
• 무한차원 공간에서 다이어그램 원소 수에 따라 의존하는 하한 리프시츠 상수에 대한 이론적 경계를 유도한다.
• 유한차원 RKHS에 대해서는 원소 수가 유계이더라도 반례와 불가능성 결과를 구성한다.

실험 결과

연구 질문

• RQ1 유한차원 RKHS에 다이어그램 거리의 구조를 유지하는 이중 리프시츠 사상으로 영구 다이어그램을 임베딩할 수 있는가?
• RQ2 무한차원 RKHS에서 RKHS 거리의 하한값이 영구 다이어그램의 원소 수에 어떻게 의존하는가?
• RQ3 다이어그램 거리에서의 영구 다이어그램 안정성 특성이 RKHS 임베딩으로까지 얼마나 유지되는가?
• RQ4 차원의 크기와 관계없이 어떤 RKHS에도 영구 다이어그램의 이중 리프시츠 임베딩이 가능할 수 있는가?

주요 결과

• 유한차원 RKHS에 영구 다이어그램을 이중 리프시츠 사상으로 임베딩하는 것은 불가능하며, 원소 수가 유계이더라도 마찬가지다.
• 무한차원 RKHS에서는 RKHS 거리의 하한값이 반드시 관련된 영구 다이어그램의 원소 수에 의존해야 한다.
• 무한차원 RKHS에서의 거리 왜곡은 균일하게 유계일 수 없으며, 다이어그램의 크기에 본질적으로 민감하다.
• 이중 리프시츠 제어 조건이 요구될 경우, 다이어그램 거리에서의 이론적 안정성 보장이 RKHS 임베딩으로 완전히 이행되지 않는다.