[논문 리뷰] FibeRed: Fiberwise Dimensionality Reduction of Topologically Complex Data with Vector Bundles

Luis Scoccola, José A. Perea|arXiv (Cornell University)|2022. 06. 13.

Topological and Geometric Data Analysis인용 수 2

한 줄 요약

FibeRed는 벡터 번들의 수학적 구조를 활용하여 전반적인 위상적 구조(기저 공간)와 국소 기하학적 구조(섬유)를 분리함으로써 위상적으로 복잡한 데이터를 모델링하는 섬유 기반 차원 감소 프레임워크를 제안한다. 국소 선형 감소와 위상적 추론을 융합함으로써, Isomap, t-SNE, UMAP와 같은 거리 기반 방법보다 더 낮은 차원에서 위상 구조를 충실하게 유지하는 임bedding을 달성한다. 특히 실린더나 클라인 병과 같은 비자명한 위상적 성질을 가진 다양체에서 뛰어난 성능을 보인다.

ABSTRACT

Datasets with non-trivial large scale topology can be hard to embed in low-dimensional Euclidean space with existing dimensionality reduction algorithms. We propose to model topologically complex datasets using vector bundles, in such a way that the base space accounts for the large scale topology, while the fibers account for the local geometry. This allows one to reduce the dimensionality of the fibers, while preserving the large scale topology. We formalize this point of view, and, as an application, we describe an algorithm which takes as input a dataset together with an initial representation of it in Euclidean space, assumed to recover part of its large scale topology, and outputs a new representation that integrates local representations, obtained through local linear dimensionality reduction, along the initial global representation. We demonstrate this algorithm on examples coming from dynamical systems and chemistry. In these examples, our algorithm is able to learn topologically faithful embeddings of the data in lower target dimension than various well known metric-based dimensionality reduction algorithms.

연구 동기 및 목표

• 낮은 차원의 임베딩에서 비자명한 대규모 위상적 성질을 유지하는 데에 한계가 있는 거리 기반 차원 감소 기법의 문제점을 해결하기 위해.
• 벡터 번들의 수학적 프레임워크를 활용하여 데이터의 전반적 위상적 구조와 국소 기하학적 구조를 분리하기 위해.
• 국소 선형 차원 감소와 위상적 추론을 통합하여 보다 높은 임베딩 충실도를 달성하는 실용적인 알고리즘을 개발하기 위해.
• 표준 거리 기반 기법보다 벡터 번들의 표현 방식이 복잡한 데이터셋에서 더 정확하고 저차원의 임베딩을 제공할 수 있음을 입증하기 위해.

제안 방법

• 기저 공간이 대규모 위상적 성질을 표현하고, 섬유가 국소 기하학을 기록하는 방식으로 데이터를 벡터 번들의 형태로 모델링한다.
• 지속적 코hom올로지( persistent cohomology )를 사용하여 고리와 같은 주요 위상적 특징을 반영하는 초기 원형 좌표 맵을 계산한다.
• 섬유 이웃 영역 내에서 국소 선형 차원 감소(예: PCA)를 적용하여 국소 구조를 유지하면서 차원을 감소시킨다.
• 국소 섬유 표현 간의 수직적이고 일관된 정렬을 보장하기 위해 코호몰로지 조건(cocycle condition)을 푸는 방식으로 전역적으로 일관된 임베딩을 구성한다.
• 클라인 병과 같은 비방향성 다양체를 다루기 위해 컷-언폴드(cut-unfold) 기법을 활용하여 위상적으로 일관된 패치들로부터 기본 영역(fundamental domain)을 생성한다.
• 초기 기저 맵과 정제된 섬유 좌표를 조합하여 최종 저차원 표현을 생성함으로써 위상적 성질과 국소 기하학을 모두 유지한다.

실험 결과

연구 질문

• RQ1 벡터 번들의 구조가 고차원 데이터에서 전반적 위상적 성질과 국소 기하학적 성질을 체계적으로 분리하는 데에 유용한 프레임워크가 될 수 있는가?
• RQ2 위상적 추론을 활용하여 비자명한 위상을 유지하는 전역적으로 일관된 저차원 임베딩을 구성할 수 있는가?
• RQ3 Isomap, t-SNE, UMAP와 같은 거리 기반 방법과 비교해 볼 때, 섬유 기반 차원 감소 기법은 낮은 목표 차원에서 위상적 성질을 얼마나 잘 유지하는가?
• RQ4 클라인 병과 같은 비방향성 다양체를 낮은 차원에서 위상적으로 충실하게 임베딩할 수 있는가?
• RQ5 알고리즘이 노이즈와 이방성에 얼마나 강인한가? 그리고 국소 차원이 다양하게 변하는 데이터를 다룰 수 있도록 어떻게 확장할 수 있는가?

주요 결과

• FibeRed는 다이나믹 시스템과 화학 분야의 데이터에서 Isomap, LTSA, HLLE, t-SNE, UMAP보다 낮은 목표 차원에서 위상적으로 충실한 임베딩을 달성한다.
• 클라인 병에서 FibeRed는 Z/2 및 Z/3 계수를 사용할 때 올바른 베티 수(Betti numbers)를 성공적으로 복원하여 위상적 충실도를 확인하였고, 거리 기반 방법들은 R4에서 올바른 호모로지 구조를 유지하지 못했다.
• 초기 원형 좌표와 섬유 감소만을 사용하여, 사출옥탄의 구조적 변형 공간에 대해 사전에 위상적 구조를 알지 못한 상태에서도 2차원 매개변수화를 성공적으로 수행하였다.
• t-SNE와 Isomap조차도 더 높은 차원에서 실행되더라도, FibeRed는 데이터의 기본 위상적 특징을 더 잘 유지함을 보였다.
• 위상적 제약 조건을 통해 국소 2차원 패치들을 전역적으로 정렬함으로써 데이터의 일관된 차트화를 가능하게 하여, 거리 기반 접근 방식에서 흔히 발생하는 정렬 문제를 해결하였다.
• 초기 위상적 표현에 기반한 주성분 분석의 일종으로 간주할 수 있어, 다른 차원 감소 알고리즘으로의 일반화 가능성을 시사한다.