[논문 리뷰] Geomstats: A Python Package for Riemannian Geometry in Machine Learning

Nina Miolane, Brigant, Alice Le외 17명|arXiv (Cornell University)|2020. 04. 07.

Morphological variations and asymmetry참고 문헌 41인용 수 97

한 줄 요약

Geomstats는 비선형 다양체에서의 계산과 통계를 위한 오픈소스 Python 도구상자이며, 벡터화된 연산과 GPU 백엔드를 통해 기하학 인지 ML을 가능하게 한다.

ABSTRACT

We introduce Geomstats, an open-source Python toolbox for computations and statistics on nonlinear manifolds, such as hyperbolic spaces, spaces of symmetric positive definite matrices, Lie groups of transformations, and many more. We provide object-oriented and extensively unit-tested implementations. Among others, manifolds come equipped with families of Riemannian metrics, with associated exponential and logarithmic maps, geodesics and parallel transport. Statistics and learning algorithms provide methods for estimation, clustering and dimension reduction on manifolds. All associated operations are vectorized for batch computation and provide support for different execution backends, namely NumPy, PyTorch and TensorFlow, enabling GPU acceleration. This paper presents the package, compares it with related libraries and provides relevant code examples. We show that Geomstats provides reliable building blocks to foster research in differential geometry and statistics, and to democratize the use of Riemannian geometry in machine learning applications. The source code is freely available under the MIT license at \url{geomstats.ai}.

연구 동기 및 목표

• 재사용 가능한 저수준 구현을 제공함으로써 미분 기하학과 기하학 통계학 연구를 촉진합니다.
• Scikit-Learn 유사 API를 통해 사용자 친화적인 알고리즘을 제공함으로써 기하학 통계를 민주화한다.
• 미분 기하학의 실습 학습을 촉진하기 위한 교육 도구와 시각화 도구를 제공합니다.
• 다양한 ML 워크플로에 매니폴드 계산을 통합할 수 있는 모듈식이고 테스트된 기반을 제공합니다.

제안 방법

• 두 가지 주요 모듈: 객체 지향 설계를 갖춘 리만 기하학용 기하학 모듈과 매니폴드 기반 통계 및 학습 알고리즘용 학습 모듈.
• 다양체는 기본 클래스 Manifold로부터 상속받고; RiemannianMetric은 거리, 지수/로그 맵 등을 제공하며; 여러 거리 함수가 이 기본을 확장한다(예: HyperbolicMetric, StiefelCanonicalMetric).
• 자동 미분(autograd)은 닫힌 형태의 표현이 사용할 수 없을 때 Connection 클래스를 통해 연산을 가능하게 한다.
• 학습 모듈은 Fréchet 평균, KMeans, TangentPCA 및 Scikit-Learn 스타일 API를 가진 기타 매니폴드 인식 알고리즘을 구현한다.
• 코드는 배치 연산에 대해 벡터화되어 있으며, GPU 가속을 위한 백엔드 NumPy, PyTorch, TensorFlow를 지원하고 시각화 도구를 포함한다.

실험 결과

연구 질문

• RQ1 일반적인 ML 및 기하학적 필요를 포괄하기 위해 어떤 다양체와 측정이 지원되어야 하는가?
• RQ2 매니폴드 연산을 직관적인 API를 통해 표준 ML 파이프라인에 어떻게 통합할 수 있는가?
• RQ3 매니폴드 연산에 대해 다중 백엔드(NumPy, PyTorch, TensorFlow)를 사용할 때의 성능 및 사용성 트레이드오프는 무엇인가?
• RQ4 다양한 기하학에서 Fréchet 평균, KMeans, TangentPCA와 같은 매니폴드 기반 학습 알고리즘의 성능과 동작은 어떻게 다른가?

주요 결과

• Geomstats는 리만 기하학과 기하학적 통계를 위한 오픈 소스의 객체 지향 기반을 제공합니다.
• 이 패키지는 여러 다양체와 리만 기준의 계열을 제공하며, 관련된 지수/로그 맵, 측지, 평행 수송이 함께 제공됩니다.
• 매니폴드 위의 학습 알고리즘(예: Fréchet 평균 추정기, KMeans, TangentPCA)은 Scikit-Learn 호환 API로 구현되어 있다.
• 연산은 배치 계산을 위해 벡터화되어 있으며 백엔드로 NumPy, PyTorch, TensorFlow를 포함하여 GPU 가속을 지원한다.
• 코드 품질은 광범위한 단위 테스트와 지속적 통합(CI)에 의해 보장된다.
• Geomstats는 교육적이고 접근하기 쉽도록 설계되었으며 시각화 도구와 문서가 함께 제공되며, MIT 라이선스로 geomstats.ai에서 이용 가능하다.