[논문 리뷰] Disentangling by Subspace Diffusion

David Pfau, Irina Higgins외 2명|arXiv (Cornell University)|2020. 06. 23.

Morphological variations and asymmetry참고 문헌 72인용 수 5

한 줄 요약

이 논문은 미분기하학의 de Rham 분해를 활용하여 부분공간 확산를 통해 불변 부분공간을 추정함으로써 데이터 다양체의 분리(디센트링)를 수행하는 비모수적 알고리즘인 GeoManCEr을 소개한다. 진짜 다양체 계량이 알려져 있고 각 인자 다양체가 비자명한 호로노미(예: 3D 회전)를 가질 경우, 완전히 비지도적 디센트링이 가능하다는 것을 보여주며, 표현 학습에 기하학적 기반을 제공한다.

ABSTRACT

We present a novel nonparametric algorithm for symmetry-based disentangling of data manifolds, the Geometric Manifold Component Estimator (GEOMANCER). GEOMANCER provides a partial answer to the question posed by Higgins et al. (2018): is it possible to learn how to factorize a Lie group solely from observations of the orbit of an object it acts on? We show that fully unsupervised factorization of a data manifold is possible if the true metric of the manifold is known and each factor manifold has nontrivial holonomy -- for example, rotation in 3D. Our algorithm works by estimating the subspaces that are invariant under random walk diffusion, giving an approximation to the de Rham decomposition from differential geometry. We demonstrate the efficacy of GEOMANCER on several complex synthetic manifolds. Our work reduces the question of whether unsupervised disentangling is possible to the question of whether unsupervised metric learning is possible, providing a unifying insight into the geometric nature of representation learning.

연구 동기 및 목표

• 측정 정보나 강력한 가정 없이도 데이터 다양체의 비지도적 디센트링이 가능한지 여부를 다루는 것.
• Higgins 등(2018)이 제기한 대칭 기반 디센트링 문제에 기하학적 해결책을 제공하는 것—주로 리 군 작용을 중심으로 한다.
• 디센트링의 과제를 기본 다양체 계량의 학습 가능성으로 환원하여 기하학적 및 표현 학습 관점을 통합하는 것.
• 각 인자 다양체가 비자명한 호로노미를 가질 경우(예: 3D 회전), 디센트링이 달성 가능하다는 것을 보여주는 것.

제안 방법

• GeoManCEr은 데이터 다양체 위에서의 랜덤 워크 확산에 대해 불변인 부분공간을 추정하며, 미분기하학의 de Rham 분해를 근거로 한다.
• 이 알고리즘은 다양체의 진짜 계량을 알고 있음을 전제로 하여 기하적 구성요소를 드러내는 확산 과정을 계산한다.
• 확산이 방향을 혼합하지 않는 부분공간을 식별함으로써 독립적인 인자 다양체를 나타낸다.
• 이러한 불변 부분공간이 다양체의 기약 성분과 대응함을 공식적으로 정당화하기 위해 de Rham 분해 정리를 활용한다.
• 지역 계량 정보가 가용할 경우 데이터에 직접 작용하여 학습된 비선형 임bedding이 필요 없도록 한다.
• 비자명한 호로노미를 가진 다양체, 예를 들어 3D에서의 회전군과 같이, 교환 부분군이 명확한 유추적 추론을 가능하게 한다.

실험 결과

연구 질문

• RQ1 군 궤도의 관측만으로도 완전히 비지도적 데이터 다양체의 디센트링이 가능할 수 있는가?
• RQ2 진짜 계량이 주어졌을 때, 지도 없이 다양체 위의 리 군 작용의 분해를 복원할 수 있는가?
• RQ3 인자 다양체에 비자명한 호로노미가 존재할 경우, 기하학적 확산를 통해 디센트링이 가능한가?
• RQ4 관측된 데이터 다양체 위에서의 확산 과정을 사용해 de Rham 분해를 근사할 수 있는가?

주요 결과

• GeoManCEr은 비선형 임bedding을 학습하지 않더라도 부분공간 확산를 통해 불변 부분공간을 식별함으로써 복잡한 합성 다양체의 디센트링에 성공한다.
• 진짜 다양체 계량이 알려져 있고 각 인자 다양체가 비자명한 호로노미를 가질 경우(예: 3D 회전), 이 방법은 디센트링을 달성한다.
• 반면, 표준 β-VAE 모델은 스탠포드 3D 오브젝트 데이터셋에서 디센트링된 표현을 학습하지 못한다. UDR 점수는 거의 0에 가까우며, 잠재 공간 이동을 통해 자세와 조명이 혼합된 인코딩이 나타난다.
• UDR 지표는 초모수 탐색 전반에 걸쳐 높은 디센트링 잠재력을 가진 β-VAE 모델이 존재하지 않음을 드러내며, 모든 유의미한 잠재변수들이 자세와 조명을 동시에 인코딩하고 있다.
• 고정 조건 하에서 추정된 평균을 보면 어떤 잠재 차원의 분산도 감소하지 않아, β-VAE가 어떤 디센트링된 부분공간도 학습하지 못했음을 확인한다.
• 결과적으로, 지도 없이 디센트링이 가능하려면 계량이 알려져 있어야 하고 호로노미가 비자명해야 하며, 문제를 계량 학습으로 환원할 수 있음을 지지한다.