[논문 리뷰] A Grassmann Manifold Handbook: Basic Geometry and Computational Aspects

Thomas Bendokat, Ralf Zimmermann외 1명|arXiv (Cornell University)|2020. 11. 27.

Matrix Theory and Algorithms참고 문헌 76인용 수 28

한 줄 요약

이 핸드북은 기하학적 알고리즘, 특히 지수, 로그, 평행 이송, 곡률과 같은 리만 연산을 위한 매트릭스 기반 접근을 포함하여 그라스만 매니폴드 기하학에 대한 종합적인 다루기를 제공한다. 이 문서는 리만 로그에 대한 수치적으로 안정된 알고리즘을 제안하고, 자코비 장과 지수 매핑의 도함수에 대한 새로운 공식을 유도하며, 최적화 및 저질서 행렬 문제에 응용하기 위해 직교 프로젝터와 몫 공간 관점 간의 다리를 놓는다.

ABSTRACT

The Grassmann manifold of linear subspaces is important for the mathematical modelling of a multitude of applications, ranging from problems in machine learning, computer vision and image processing to low-rank matrix optimization problems, dynamic low-rank decompositions and model reduction. With this mostly expository work, we aim to provide a collection of the essential facts and formulae on the geometry of the Grassmann manifold in a fashion that is fit for tackling the aforementioned problems with matrix-based algorithms. Moreover, we expose the Grassmann geometry both from the approach of representing subspaces with orthogonal projectors and when viewed as a quotient space of the orthogonal group, where subspaces are identified as equivalence classes of (orthogonal) bases. This bridges the associated research tracks and allows for an easy transition between these two approaches. Original contributions include a modified algorithm for computing the Riemannian logarithm map on the Grassmannian that is advantageous numerically but also allows for a more elementary, yet more complete description of the cut locus and the conjugate points. We also derive a formula for parallel transport along geodesics in the orthogonal projector perspective, formulae for the derivative of the exponential map, as well as a formula for Jacobi fields vanishing at one point.

연구 동기 및 목표

• 기계학습, 컴퓨터 시각 및 저질서 최적화에서 필수적인 그라스만 매니폴드 기하학에 대한 통합적이고 알고리즘 중심의 참고 자료를 제공하는 것.
• 하위공간의 두 주요 매트릭스 표현 방식인 직교 프로젝터와 옥토곤 군의 몫 공간 간의 다리를 놓는 것.
• 알고리즘적 활용을 위해 지수 매핑, 로그, 평행 이송, 곡률과 같은 핵심 리만 기하 연산을 유도하고 분석하는 것.
• 리만 로그를 계산할 때 수치적 안정성과 기하학적 명확성을 향상시키고, 컷 로지 및 공액점의 특성을 규명하는 것.
• 프로젝터 표현을 사용하여 한 점에서 사라지는 자코비 장과 지수 매핑의 도함수에 대한 새로운 분석 공식을 도출하는 것.

제안 방법

• 하위공간을 $\mathrm{Gr}(n,p)$ 내의 직교 프로젝터와 스티펠 맨포일드 $\mathrm{St}(n,p)$ 내의 정규직교 기저의 동치류로 표현함으로써 이중적 관점을 가능하게 한다.
• 프로젝션 $\pi^{\mathrm{SG}}(U) = UU^T$ 를 통해 $\mathrm{St}(n,p)$ 의 몫 구조에서 $\mathrm{Gr}(n,p)$ 상의 리만 계량을 도출한다.
• 수평 리프트의 SVD를 이용한 수정된 알고리즘을 제안하여 리만 로그의 수치적 안정성을 향상시키고 컷 로지의 완전하고 기본적인 기술을 가능하게 한다.
• 수평 리프트와 탄성 벡터의 SVD 분해를 이용하여 지오데식을 沿해 평행 이송에 대한 닫힌 형태의 공식을 도출한다.
• 매트릭스 분해의 SVD 기반 미분을 통해 지수 매핑의 도함수와 자코비 장을 계산한다.
• 행렬 미적분학과 SVD를 활용하여 곡률, 지수, 로그 매핑에 대한 공식을 유도하며, 알고리즘 효율성에 대한 FLOP 수를 제공한다.

실험 결과

연구 질문

• RQ1 그라스만 매니폴드 상에서 리만 로그를 계산할 때 수치적 안정성과 기하학적 완전성을 향상시키는 방법은 무엇인가?
• RQ2 직교 프로젝터 표현과 몫 공간 표현 간의 그라스만 매니폴드 간의 관계는 무엇이며, 알고리즘에서 이들을 원활하게 연결할 수 있는 방법은 무엇인가?
• RQ3 매트릭스 기반 방법을 사용하여 그라스만 매니폴드 상의 평행 이송을 효율적이고 정확하게 계산하는 방법은 무엇인가?
• RQ4 지수 매핑의 도함수와 자코비 장에 대한 분석 공식은 무엇이며, 이들은 탄성 벡터의 SVD에 어떻게 의존하는가?
• RQ5 그라스만 매니폴드 상의 핵심 리만 연산의 계산 비용(단위 FLOP)은 얼마이며, 이는 $n$ 과 $p$ 에 따라 어떻게 변화하는가?

주요 결과

• 수정된 리만 로그 알고리즘은 수치적으로 더 안정적이며, 컷 로지와 공액점의 완전하고 기본적인 기술을 가능하게 한다.
• 직교 프로젝터 프레임워크 내에서 수평 리프트와 탄성 벡터의 SVD를 이용하여 그라스만 매니폴드 상의 평행 이송에 대한 닫힌 형태의 공식이 도출되었다.
• SVD 미분을 통한 지수 매핑 도함수의 유도로 최적화 알고리즘 내에서 효율적인 계산이 가능해졌다.
• 한 점에서 사라지는 자코비 장에 대한 공식이 도출되어, 그라스만 매니폴드 상의 지오데식 편차와 곡률 분석에 핵심 도구를 제공한다.
• 핵심 연산에 대한 FLOP 수가 제공되었으며, $n \gg p$ 라는 가정 하에 다음과 같다: 리만 지수 (~$6np^2 + 6p^3 + p$), 리만 로그 (~$8np^2 + 2np + p^3 + p^2 + 2p$), 평행 이송 (~$5np^2 + 4np + p^2 + 4p$).
• 그라스만 매니폴드의 단면 곡률은 $K_P(\Delta_1, \Delta_2) = 4 \frac{\operatorname{tr}(\Delta_1^2 \Delta_2^2) - \operatorname{tr}((\Delta_1 \Delta_2)^2)}{\operatorname{tr}(\Delta_1^2)\operatorname{tr}(\Delta_2^2) - (\operatorname{tr}(\Delta_1 \Delta_2))^2}$ 로 주어지며, 이는 대칭 탄성 벡터에 대해 유계이고 잘 정의되어 있다.