[논문 리뷰] Persistent Homology with k-nearest-neighbor Filtrations reveals Topological Convergence of PageRank

Minh Le, Dane Taylor|arXiv (Cornell University)|2022. 06. 09.

Topological and Geometric Data Analysis인용 수 4

한 줄 요약

이 논문은 고체 데이터 분석에서 지속 호몰로지의 새로운 프레임워크로 k-가 б리운 이웃(kNN) 필터레이션을 소개한다. 이는 상대적 노드 순위의 위상 수렴을 탐지할 수 있도록 한다. kNN 기반 지속 호몰로지가 오직 5–9회 반복 후에 페이지랭크의 순위 수렴을 포착함으로써 버티코이스-립스 필터레이션보다 뛰어난 성능을 보이며, 벡터 노름 수렴을 추적하고 더 많은 반복이 필요한 반면에, 이는 더 일찍 안정화된다.

ABSTRACT

Graph-based representations of point-cloud data are widely used in data science and machine learning, including epsilon-graphs that contain edges between pairs of data points that are nearer than epsilon and kNN-graphs that connect each point to its k-nearest neighbors. Recently, topological data analysis has emerged as a family of mathematical and computational techniques to investigate topological features of data using simplicial complexes. These are a higher-order generalization of graphs and many techniques such as Vietoris-Rips (VR) filtrations are also parameterized by a distance epsilon. Here, we develop kNN complexes as a generalization of kNN graphs, leading to kNN-based persistent homology techniques for which we develop stability and convergence results. We apply this technique to characterize the convergence properties PageRank, highlighting how the perspective of discrete topology complements traditional geometrical-based analyses of convergence. Specifically, we show that convergence of relative positions (i.e., ranks) is captured by kNN persistent homology, whereas persistent homology with VR filtrations coincides with vector-norm convergence. Beyond PageRank, kNN-based persistent homology is expected to be useful to other data-science applications in which the relative positioning of data points is more important than their precise locations.

연구 동기 및 목표

• k-가까운 이웃(kNN) 필터레이션을 기반으로 한 새로운 위상 데이터 분석 프레임워크를 개발하여, kNN 그래프를 단체 복합체로 일반화한다.
• 특히 이산 위상 구조와 관련하여 kNN 기반 지속 호몰로지의 이론적 안정성과 수렴 성질을 확립한다.
• 페이지랭크와 같은 반복 알고리즘에서 나타나는 상대적 노드 순위의 수렴이 kNN 기반 지속 호몰로지로 어떻게 드러나는지 조사한다. 반면에 VR 필터레이션은 노름 기반 수렴을 반영한다.
• kNN와 VR 필터레이션 간의 수렴 측면에서의 차이를 비교한다: kNN는 순위 순서를, VR은 벡터 노름 감쇠를 포착한다.
• 페이지랭크 외의 수치 알고리즘에서 수렴에 필요한 반복 수를 예측하는 데 있어 kNN 기반 지속 호몰로지의 유용성을 입증한다.

제안 방법

• 각 점의 k-가까운 이웃을 기반으로 k-단체를 추가하여 kNN 복합체를 구성하고, k로 매개변수화된 kNN 필터레이션을 형성한다.
• 노드 부분집합에 대한 국소 kNN 필터레이션과 지속 호몰로지를 정의하여 그래프의 특정 영역에서의 수렴을 분석한다.
• 지속 다이어그램 간의 브로드밴드 거리(bottleneck distance)를 사용하여 kNN 및 VR 필터레이션의 지속 다이어그램을 비교하고, 위상적 안정성과 수렴을 정량화한다.
• 반복적 페이지랭크 과정에 kNN 지속 호몰로지를 적용하여 그래프 위상의 반복 간 변화를 추적한다.
• 전역 수렴, κ-유계 수렴, U-국소 수렴의 세 가지 유형의 수렴을 제안하여 다양한 척도와 부분집합에서의 수렴을 분석한다.
• 연속적인 거리 측정에 의존하지 않고 이산 위상 이론 원리를 활용하여 점들의 상대적 순서를 분석한다.

실험 결과

연구 질문

• RQ1 kNN 기반 지속 호몰로지가 반복 알고리즘에서 수렴을 포착하는 방식이 버티코이스-립스 필터레이션과 어떻게 다를까?
• RQ2 kNN 지속 호몰로지가 페이지랭크의 노드 순위(즉, 상대적 순서) 수렴을 벡터 노름 수렴보다 일찍 탐지할 수 있는가?
• RQ3 kNN 기반 지속 다이어그램에 적용 가능한 안정성 및 수렴 정리들은 무엇이며, kNN 순서 차이와는 어떻게 관련되는가?
• RQ4 국소 kNN 지속 호몰로지는 상위 순위 노드 집합과 무작위 선택된 노드 집합에서 수렴 패턴을 어떻게 드러내는가?
• RQ5 kNN 지속 호몰로지는 수치 알고리즘에서 전통적인 노름 기반 수렴 분석과 어떻게 상호보완적인 통찰을 제공하는가?

주요 결과

• 임의의 노드 부분집합에 대해 kNN 지속 호몰로지는 페이지랭크에서 오직 5회 반복 후에 순위 수렴을 탐지하는 반면, 벡터 노름 수렴(VR 기반)은 더 많은 반복이 필요하다.
• 상위 10개 페이지랭크 노드에 대해 kNN 지속 호몰로지는 약 9회 반복 후에 순위 수렴을 보이며, 표 1에서 관찰된 순위 안정화와 일치한다.
• VR 필터레이션은 안정성 정리에 따라 벡터 노름 수렴과 강하게 상관되며, 반면 kNN 필터레이션은 상대적 순서 수렴을 반영한다.
• kNN 지속 다이어그램 간의 브로드밴드 거리는 최대 kNN 순서 차이에 의해 유계지며, 이는 이산 안정성의 한 형태를 확립한다.
• kNN 기반 지속 호몰로지는 순위의 위상 수렴이 노름 기반 수렴보다 일찍 발생할 수 있음을 드러내어, 순위 민감 응용 분야에서의 유용성을 강조한다.
• 이론적 분석을 통해 전역 수렴, κ-유계 수렴, U-국소 수렴의 세 가지 수렴 유형을 규명하였으며, kNN 호몰로지가 다양한 척도와 관심 영역의 수렴을 탐지할 수 있음을 입증한다.