[논문 리뷰] RipsNet: a general architecture for fast and robust estimation of the persistent homology of point clouds

Thibault de Surrel, Felix Hensel외 6명|arXiv (Cornell University)|2022. 02. 03.

Topological and Geometric Data Analysis참고 문헌 31인용 수 7

한 줄 요약

RipsNet는 DeepSets에서 영감을 얻은 딥러닝 아키텍처로, 점군으로부터 벡터화된 지속성 다이어그램(PD)을 학습하여 빠르고 강건한 위상적 특징 추출을 가능하게 한다. 노이즈가 있는 환경에서 정확한 PD 계산보다 뛰어난 O(λ) 수준의 입력 변형에 대한 강건성을 확보하면서도, 계산 시간을 세 자리 수 감소시킨다.

ABSTRACT

The use of topological descriptors in modern machine learning applications, such as Persistence Diagrams (PDs) arising from Topological Data Analysis (TDA), has shown great potential in various domains. However, their practical use in applications is often hindered by two major limitations: the computational complexity required to compute such descriptors exactly, and their sensitivity to even low-level proportions of outliers. In this work, we propose to bypass these two burdens in a data-driven setting by entrusting the estimation of (vectorization of) PDs built on top of point clouds to a neural network architecture that we call RipsNet. Once trained on a given data set, RipsNet can estimate topological descriptors on test data very efficiently with generalization capacity. Furthermore, we prove that RipsNet is robust to input perturbations in terms of the 1-Wasserstein distance, a major improvement over the standard computation of PDs that only enjoys Hausdorff stability, yielding RipsNet to substantially outperform exactly-computed PDs in noisy settings. We showcase the use of RipsNet on both synthetic and real-world data. Our open-source implementation is publicly available at https://github.com/hensel-f/ripsnet and will be included in the Gudhi library.

연구 동기 및 목표

• 대규모이거나 노이즈가 많은 점군에서 정확한 지속성 다이어그램 계산의 높은 계산 비용과 불안정성을 해결한다.
• 실제 데이터에서 소규모 변형과 이방값에 민감한 표준 지속성 다이어그램의 문제를 해결한다.
• 데이터에서 직접 유한 차원의 임베딩을 학습함으로써 기계학습 파ip라인에 위상적 특징을 효율적으로 통합할 수 있도록 한다.
• 다양한 점군 데이터에 대해 잘 일반화되고 노이즈 하에서 위상적 정확성을 유지하는 신경망 아키텍처를 개발한다.
• 학습된 위상적 기술자표현이, 특히 노이즈 조건에서의 하류 분류 작업에서 정확한 PD보다 뛰어나게 성능을 발휘할 수 있음을 입증한다.

제안 방법

• 점군 특징을 처리하기 위해 학습 가능한 임베딩 함수 φ₁를 사용하고, 순열 불변 연산자(예: 평균)를 통해 집계한 후, φ₂를 통해 벡터화된 출력으로 매핑하는 DeepSets 유사 아키텍처를 채택한다.
• 레이블이 부여된 참값 벡터화된 표현을 지도로 사용하여, 네트워크를 엔드 투 엔드로 훈련하여 원시 점군으로부터 벡터화된 지속성 다이어그램(예: 지속성 이미지)을 예측하도록 한다.
• 강건성 평가에 1-와서르스타인 거리를 사용하여, λ 비율의 점이 변형될 때 RipsNet의 출력이 O(λ) 수준으로 변화함을 증명한다.
• 표준 딥러닝 최적화(Adam)와 교차 검증을 활용해 하이퍼파ram터를 튜닝하며, 집계 연산자와 네트워크 깊이 등을 포함한다.
• 하류 기계학습 파이프라인에서 특징 추출기로 RipsNet을 통합하여, 분류 작업에서 정확한 PD 계산을 대체한다.
• 설계상 순열 불변성과 안정성을 확보함으로써, 네트워크의 인덕티브 바이어스를 PD의 위상 불변성과 일치시킨다.

실험 결과

연구 질문

• RQ1 딥러닝 모델이 정확한 계산과 비교해 유사하거나 더 높은 정확도로 점군으로부터 벡터화된 지속성 다이어그램을 추정할 수 있는가?
• RQ2 노이즈 수준이 증가함에 따라 RipsNet의 입력 변형에 대한 강건성은 정확한 지속성 다이어그램 계산과 비교해 어떻게 되는가?
• RQ3 RipsNet의 출력을 사용할 경우, 정확한 PD나 PointNet과 같은 표준 딥러닝 모델에 비해 하류 분류 성능이 얼마나 향상되는가?
• RQ4 RipsNet의 일반화 능력은 합성 및 실세계 점군 데이터 분포와 같은 새로운 데이터 분포에서도 잘 작동하는가?
• RQ5 RipsNet은 해석 가능성과 위상적 정확성을 유지하면서도 위상적 특징 추출의 계산 시간을 크게 줄일 수 있는가?

주요 결과

• RipsNet는 Gudhi 라이브러리를 사용한 정확한 계산 대비 지속성 다이어그램의 벡터화 실행 시간을 세 자리 수 감소시켰다.
• 모든 테스트 노이즈 수준(λ ∈ {0.02, 0.05, 0.1, 0.25, 0.5})에서 RipsNet 특징을 사용한 신경망 분류기는 정확한 PD나 PointNet을 사용한 분류기보다 평균 정확도가 높았다.
• λ ≥ 0.1일 때 RipsNet 기반 분류기는 PointNet 베이스라인을 초월했으며, λ > 0.25를 넘어서면 PointNet의 성능이 급격히 악화됨으로써 더 뛰어난 강건성을 입증했다.
• 이론적 분석을 통해 RipsNet의 출력은 비율 λ의 변형에 대해 O(λ) 수준으로 변화함을 증명했고, 정확한 PD는 λ → 0일 때조차도 고정된 양의 변화를 겪을 수 있음을 밝혔다.
• ModelNet3D 데이터셋에서 RipsNet 기반 분류기는 모든 노이즈 수준에서 높은 성능를 유지했으며, 평균 정확도에서 정확한 PD 및 PointNet 베이스라인을 뚜렷이 앞섰다.
• 오픈소스 구현체는 공개되어 있으며, Gudhi 라이브러리에 통합되어 위상적 데이터 분석 파이프라인에서 널리 활용될 전망이다.