[논문 리뷰] Robust and scalable learning of data manifolds with complex topologies via ElPiGraph.

Luca Albergante, Evgeny M. Mirkes외 7명|arXiv (Cornell University)|2018. 04. 20.

Single-cell and spatial transcriptomics참고 문헌 42인용 수 6

한 줄 요약

ElPiGraph는 k-최근접 이웃에 의존하지 않고 탄성 에너지 함수를 최소화하여 가지치기, 구멍 또는 분리된 구성 요소와 같은 복잡한 위상적 특성을 가진 복잡한 데이터 다양체를 학습하는 강력하고 확장 가능한 방법이다. 노이즈가 많고 고차원적인 데이터에서 높은 정확도를 유지하면서 k-means에 가까운 속도를 달성하여 단일세포 게놈학 및 천문학 분야에서 효율적인 주요 그래프 학습과 앙상블 기반 공통 그래프를 가능하게 한다.

ABSTRACT

We present ElPiGraph, a method for approximating data distributions having non-trivial topological features such as the existence of excluded regions or branching structures. Unlike many existing methods, ElPiGraph is not based on the construction of a k-nearest neighbour graph, a procedure that can perform poorly in the case of multidimensional and noisy data. Instead, ElPiGraph constructs elastic principal graphs in a more robust way by minimizing elastic energy, applying graph grammars and explicitly controlling topological complexity. Using trimmed approximation error function makes ElPiGraph extremely robust to the presence of background noise without decreasing computational performance and allows it to deal with complex cases of manifold learning (for example, ElPiGraph can learn disconnected intersecting manifolds). Thanks to the quasi-quadratic nature of the elastic function, ElPiGraph performs almost as fast as a simple k-means clustering and, therefore, is much more scalable than alternative methods, and can work on large datasets containing millions of high dimensional points on a personal computer. The excellent performance of the method opens the possibility to apply resampling and to approximate complex data structures via principal graph ensembles which can be used to construct consensus principal graphs. ElPiGraph is currently implemented in five programming languages and accompanied by a graphical user interface, which makes it a versatile tool to deal with complex data in various fields from molecular biology, where it can be used to infer pseudo-time trajectories from single-cell RNASeq, to astronomy, where it can be used to approximate complex structures in the distribution of galaxies.

연구 동기 및 목표

• 고차원이고 노이즈가 많은 데이터에서 복잡한 위상적 특성(예: 가지치기 또는 분리된 구성 요소)을 가진 k-최근접 이웃 기반 다양체 학습의 한계를 해결하기 위해.
• 배제 영역과 가지치기 구조와 같은 비정상적인 위상적 특징을 포착할 수 있는 스케일러블하고 강력한 주요 그래프 학습 방법을 개발하기 위해.
• 표준 하드웨어에서 수백만 개의 점을 포함한 대규모 데이터셋에서도 정확도를 저하시키지 않고 효율적으로 학습할 수 있도록 하기 위해.
• 안정성과 해석 가능성 향상을 위해 앙상블 방법을 통해 공통 주요 그래프를 구축할 수 있도록 지원하기 위해.
• 다양한 과학 분야에서 널리 적용 가능하도록 다중 프로그래밍 언어 구현과 GUI를 제공하기 위해.

제안 방법

• ElPiGraph는 기하학적 충실도와 위상적 매끄러움을 균형 잡는 탄성 에너지 함수를 최소화하여 탄성 주요 그래프를 구성한다.
• 그래프 문법을 사용해 반복적으로 그래프 구조를 정밀하게 조정함으로써 제어 가능한 위상 복잡도를 확보하고 부당한 가지를 방지한다.
• 절단된 근사 오차 함수는 배경 노이즈에 대한 강건성을 향상시키지만 계산 성능을 저하시키지 않는다.
• 고차원에서의 실패 위험이 크고 노이즈에 민감한 k-최근접 이웃 구축을 피한다.
• 탄성 에너지 함수의 준2차 성질 덕분에 근사 선형 확장성 확보로 k-means 클러스터링과 유사한 속도를 달성한다.
• 공통 주요 그래프 구축을 위한 주요 그래프 앙상블 생성을 지원하여 복잡한 데이터 분석에서 신뢰성 향상.

실험 결과

연구 질문

• RQ1 복잡한 위상적 특성(예: 가지치기 또는 분리된 구성 요소)을 가진 고차원이고 노이즈가 많은 데이터를 효과적으로 다룰 수 있는 다양체 학습 방법은 존재하는가?
• RQ2 그래프 구축 과정에서 위상 복잡도를 명시적으로 제어할 수 있는 방법은 무엇인가? 이는 과적합이나 부당한 구조를 방지하기 위함이다.
• RQ3 탄성 에너지 최소화 방법이 대규모 데이터셋에서 정확도와 확장성 측면에서 k-최근접 이웃 기반 방법을 능가할 수 있는가?
• RQ4 주요 그래프 앙상블은 학습된 데이터 구조의 안정성과 해석 가능성에 얼마나 기여하는가?
• RQ5 이 방법은 다양한 프로그래밍 언어로 효율적으로 구현되어 다양한 과학적 응용 분야에서 사용될 수 있는가?

주요 결과

• ElPiGraph는 표준 개인용 컴퓨터에서 수백만 개의 고차원 점을 포함한 데이터셋에서도 k-means에 가까운 계산 속도를 달성하여 확장 가능한 학습이 가능하다.
• 절단된 근사 오차 함수 덕분에 배경 노이즈에 매우 강건하지만 성능 저하 없이 작동한다.
• 분리된, 교차하는, 또는 가지치기 구조를 가진 다양체를 성공적으로 학습하여 전통적인 k-NN 기반 접근 방식이 어려운 특성을 다룰 수 있다.
• 탄성 에너지 최소화를 통해 복잡한 데이터 구조가 존재하는 상황에서도 매끄럽고 위상적으로 정확한 그래프 표현이 가능하다.
• 앙상블을 통한 공통 주요 그래프 생성을 지원하여 후속 분석에서 신뢰성과 해석 가능성 향상.
• 다섯 가지 프로그래밍 언어로 구현되고 그래픽 사용자 인터페이스를 제공하여 과학 분야 전반에서 널리 보급 가능.