[논문 리뷰] On the Metric Distortion of Embedding Persistence Diagrams into separable Hilbert spaces

Mathieu Carrière, Ulrich Bauer|arXiv (Cornell University)|2018. 06. 19.

Topological and Geometric Data Analysis참고 문헌 17인용 수 10

한 줄 요약

이 논문은 분리 가능한 힐버트 공간에 임bedding하는 동안 영속성 다이어그램의 거리 왜곡을 조사하며, 유한 차원 힐버트 공간에서는 이중 리프시츠 임베딩이 불가능하고, 무한 차원 공간에서의 안정적 임베딩에 대한 하한 값이 다이어그램의 원소 수가 증가함에 따라 사라짐을 보여준다. 결과적으로 이러한 임베딩을 거치면 거리 구조가 본질적으로 손실되며, 위상 기반 기계 학습에서 이론적 보장을 약화시킨다.

ABSTRACT

Persistence diagrams are important descriptors in Topological Data Analysis. Due to the nonlinearity of the space of persistence diagrams equipped with their {\em diagram distances}, most of the recent attempts at using persistence diagrams in machine learning have been done through kernel methods, i.e., embeddings of persistence diagrams into Reproducing Kernel Hilbert Spaces, in which all computations can be performed easily. Since persistence diagrams enjoy theoretical stability guarantees for the diagram distances, the {\em metric properties} of the feature map, i.e., the relationship between the Hilbert distance and the diagram distances, are of central interest for understanding if the persistence diagram guarantees carry over to the embedding. In this article, we study the possibility of embedding persistence diagrams into separable Hilbert spaces, with bi-Lipschitz maps. In particular, we show that for several stable embeddings into infinite-dimensional Hilbert spaces defined in the literature, any lower bound must depend on the cardinalities of the persistence diagrams, and that when the Hilbert space is finite dimensional, finding a bi-Lipschitz embedding is impossible, even when restricting the persistence diagrams to have bounded cardinalities.

연구 동기 및 목표

• 영속성 다이어그램이 이중 리프시츠 사상에 의해 분리 가능한 힐버트 공간으로 임베딩될 수 있는지, 거리 구조가 유지되는지 조사하는 것.
• 다이어그램 거리(예: d₁, d_p)를 통한 영속성 다이어그램의 안정성 보장이 그 힐버트 공간 임베딩으로 이어지는지 여부를 확인하는 것.
• 임베딩 왜곡에 대한 하한 값이 영속성 다이어그램의 원소 수에 따라 어떻게 달라지는지 분석하는 것.
• 다이어그램 크기가 증가함에 따라 일반적인 특징 맵에서 거리 왜곡의 경험적 행동을 평가하는 것.

제안 방법

• 다이어그램 거리(예: d₁, d_p)와 힐버트 공간 거리의 이중 리프시츠 임베딩 이론적 분석.
• 유한 차원 공간에서의 불가능성을 보이기 위해 커버링 추론과 삼각 부등식을 사용한 모순에 기반한 증명.
• 하한 값의 행동을 테스트하기 위해 거리가 통제된 영속성 다이어그램의 가족을 구성하는 것.
• 절삭된 워샤프트 거리가 조건부 음성 정의 핵을 가진 암묵적 특징 맵으로 사용되는 것.
• 원소 수가 증가하는 합성 다이어그램(10에서 1000점까지)을 사용한 거리 왜곡 비율의 경험적 평가.
• 표준 특징 맵의 구현: 영속성 가중 가우시안, 영속성 척도 공간, 랜드스케이프, 영속성 이미지, 위상 벡터.

실험 결과

연구 질문

• RQ1 영속성 다이어그램이 이중 리프시츠 사상에 의해 유한 차원 힐버트 공간으로 임베딩될 수 있는가?
• RQ2 무한 차원 힐버트 공간으로의 안정적 특징 맵에 대해, 다이어그램 원소 수에 관계없이 힐버트 거리에 대한 하한 값이 존재하는가?
• RQ3 영속성 다이어그램의 점 수가 증가함에 따라 거리 왜곡의 하한 값은 어떻게 행동하는가?
• RQ4 절삭된 워샤프트 거리에 대해 유도된 하한 값은 날카롭게 유지되는가, 아니면 다이어그램 크기에 따라 달라지는가?

주요 결과

• 유한 차원 힐버트 공간으로의 이중 리프시츠 임베딩은 영속성 다이어그램의 유계 원소 수 공간과 무관하게 존재하지 않는다.
• 무한 차원 힐버트 공간으로의 몇몇 안정적 특징 맵에 대해, 힐버트 거리에 대한 임의의 하한 값은 다이어그램 내 점 수가 증가함에 따라 0으로 수렴해야 한다.
• 경험적 결과로는 거리 왜곡 비율(Hilbert 거리 / 다이어그램 거리)이 다이어그램의 원소 수 증가에 따라 증가함을 보이며, 특히 위상 벡터, 랜드스케이프, 절삭된 워샤프트 맵에서 두드러진다.
• 위상 벡터, 랜드스케이프, 절삭된 워샤프트 맵에서는 왜곡이 원소 수에 따라 선형적으로 증가하는 반면, 다른 맵들은 더 느린 증가를 보인다.
• 절삭된 워샤프트 거리는 다이어그램 크기에 관계없이 일관된 하한 값을 제공하지 않으며, 기존의 하한 값이 날카롭지 않다는 것을 시사한다.
• 결과적으로 영속성 다이어그램의 이론적 안정성 보장이 표준 특징 맵을 통한 힐버트 공간 임베딩에서는 유지되지 않는다는 것을 암시한다.