[논문 리뷰] Geodesic Clustering in Deep Generative Models

Tao Yang, Georgios Arvanitidis외 3명|arXiv (Cornell University)|2018. 09. 13.

Generative Adversarial Networks and Image Synthesis참고 문헌 7인용 수 12

한 줄 요약

이 논문은 깊이 있는 생성 모델의 잠재 공간에서 지오데식 거리를 효율적으로 계산하기 위한 알고리즘을 제안한다. 표준 유클리드 거리의 왜곡을 보정하기 위해 리만 기하학을 활용한다. 변분 오토에인코더에서의 불확실성 모델링과 지오데식 거리의 조합을 통해, 재학습 없이도 MNIST, 패션-MNIST, EMNIST-letter 데이터셋에서 간단한 클러스터링 알고리즘인 k-medoids가 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Deep generative models are tremendously successful in learning low-dimensional latent representations that well-describe the data. These representations, however, tend to much distort relationships between points, i.e. pairwise distances tend to not reflect semantic similarities well. This renders unsupervised tasks, such as clustering, difficult when working with the latent representations. We demonstrate that taking the geometry of the generative model into account is sufficient to make simple clustering algorithms work well over latent representations. Leaning on the recent finding that deep generative models constitute stochastically immersed Riemannian manifolds, we propose an efficient algorithm for computing geodesics (shortest paths) and computing distances in the latent space, while taking its distortion into account. We further propose a new architecture for modeling uncertainty in variational autoencoders, which is essential for understanding the geometry of deep generative models. Experiments show that the geodesic distance is very likely to reflect the internal structure of the data.

연구 동기 및 목표

• 깊이 있는 생성 모델의 잠재 공간에서 진정한 의미적 관계를 반영하지 못하는 표준 유클리드 거리의 실패를 해결하기 위해.
• 깊이 있는 생성 모델이 유도하는 리만 다양체 위에서 지오데식(가장 짧은 경로)을 효율적이고 미분 가능한 방식으로 계산하는 방법을 개발하기 위해.
• 클러스터링 목표를 위해 모델을 재학습하지 않고도 잠재 공간 내의 클러스터링 성능을 향상시키기 위해.
• 지오데식 계산에 적합한 정확한 불확실성 인식 아키텍처를 갖춘 새로운 변분 오토에인코더를 제안하기 위해.
• 잠재 공간에서 지오데식 거리가 유클리드 거리보다 내재된 데이터 구조를 더 잘 반영하는지 확인하기 위해.

제안 방법

• 깊이 있는 생성 모델의 잠재 공간을 학습된 리만 계량을 사용해 확률적으로 임bedded된 리만 다양체로 모델링한다.
• 지오데식 거리 계산을 변분 최적화 문제로 공식화하여 지오데식 경로를 통해 역전파가 가능하도록 한다.
• 잠재 분포의 분산을 별도의 네트워크 헤드를 통해 명시적으로 모델링하는 새로운 VAE 아키텍처를 제안하여 불확실성 추정을 향상시킨다.
• 파이토치/텐서플로 스타일 프레임워크와 호환되며, 미분 가능한 수치적 통합 기법을 사용해 지오데식 거리를 계산한다.
• 지역 다양체 왜곡을 반영하기 위해 거리에 체적 측도(Jacobian 행렬식)를 가중치로 사용한다.
• 클러스터링은 지오데식 거리를 사용한 k-medoids 알고리즘을 통해 수행되며, 모델 전용 클러스터링 목표에 의존하지 않는다.

실험 결과

연구 질문

• RQ1 깊이 있는 생성 모델의 리만 다양체 위에서 계산된 지오데식 거리가 유클리드 거리보다 의미적 유사성을 더 잘 반영할 수 있는가?
• RQ2 VAE에 불확실성 모델링을 통합하면 지오데식 거리 추정의 정확성과 강건성은 향상되는가?
• RQ3 지오데식 거리를 사용할 경우, 유클리드 거리 대비 간단한 클러스터링 알고리즘인 k-medoids가 잠재 공간에서 최신 기술 수준의 성능을 달성할 수 있는가?
• RQ4 기존의 클러스터링 기준선과 비교해 볼 때, 제안된 방법은 MNIST, 패션-MNIST, EMNIST-letter와 같은 표준 벤치마크 데이터셋에서 어떻게 성능을 내는가?
• RQ5 잠재 공간의 다양체 구조가 데이터의 내재된 클러스터링 구조를 어느 정도 유지하는가?

주요 결과

• MNIST 데이터셋에서, 지오데식 거리를 사용한 k-medoids 클러스터링은 2클래스 및 3클래스 클러스터링에서 각각 100% 정확도를 달성했으며, 유클리드 거리 대비 상당히 높은 성능(각각 93% 및 80%)을 보였다.
• 패션-MNIST 데이터셋에서, 지오데식 기반 k-medoids는 2클래스 클러스터링(T-shirt 대비 Sandal)에서 100% 정확도를 기록했으며, 유클리드 거리 대비 98%를 기록했다.
• 3클래스 패션-MNIST 클러스터링(T-shirt, Sandal, Bag)에서는 지오데식 k-medoids가 100% 정확도를 달성했고, 유클리드 거리는 오직 93%에 그쳤다.
• EMNIST-letter 데이터셋에서, 지오데식 k-medoids는 'D'와 'd'를 구분하는 데 100% 정확도를 기록했으며, 유클리드 거리는 76%에 머물렀다.
• 모든 데이터셋과 클러스터링 작업에서 지오데식 거리는 일관되게 유클리드 거리보다 뛰어난 성능을 보였으며, 이는 내재된 데이터 구조를 잘 유지함을 보여주었다.
• 제안된 불확실성 인식 VAE 아키텍처는 특히 다소 높은 다양체 곡률 영역에서 더 정확한 지오데식 경로 추정을 가능하게 하였다.