[논문 리뷰] Evaluating the Disentanglement of Deep Generative Models through Manifold Topology

Sharon Zhou, Eric Zelikman외 4명|arXiv (Cornell University)|2021. 05. 03.

Topological and Geometric Data Analysis참고 문헌 47인용 수 6

한 줄 요약

이 논문은 학습된 표현 내 조건부 부분다양체의 위상적 유사도를 분석하여 딥 생성 모델에서의 분리성 평가를 위한 새로운, 자가 포함된 방법을 제안한다. 외부 모델이나 데이터셋에 특화된 가정 없이 다각도적 위상학적 구조를 활용함으로써, 다양한 데이터셋에서 최첨단 모델들의 일관된 순위를 도출하며, 강건하고 일반화 가능한 분리성 측정 기준을 제공한다.

ABSTRACT

Learning disentangled representations is regarded as a fundamental task for improving the generalization, robustness, and interpretability of generative models. However, measuring disentanglement has been challenging and inconsistent, often dependent on an ad-hoc external model or specific to a certain dataset. To address this, we present a method for quantifying disentanglement that only uses the generative model, by measuring the topological similarity of conditional submanifolds in the learned representation. This method showcases both unsupervised and supervised variants. To illustrate the effectiveness and applicability of our method, we empirically evaluate several state-of-the-art models across multiple datasets. We find that our method ranks models similarly to existing methods. We make our code publicly available at https://github.com/stanfordmlgroup/disentanglement.

연구 동기 및 목표

• 딥 생성 모델에서 일관되고 모델에 종속되지 않는 분리성 평가의 부족을 해결하기 위해.
• 생성 모델의 내부 표현만을 사용하여 분리성을 정량화하는 방법을 개발하기 위해.
• 분리성 측정에서 비합리적인 외부 모델이나 데이터셋에 특화된 가정에 의존하지 않도록 하기 위해.
• 비지도 및 지도 학습 변형을 모두 포함한 분리성 평가 프레임워크를 제공하기 위해.
• 여러 최첨단 모델과 데이터셋을 대상으로 방법의 실증적 검증을 수행하기 위해.

제안 방법

• 잠재 공간에서 다양한 변화 요인에 의해 유도된 조건부 부분다양체 간의 위상적 유사도를 측정한다.
• 지속적 호모로지(persistent homology)를 사용하여 이러한 부분다양체에서 위상적 특징을 추출하며, 그 구조적 성질을 포착한다.
• 부분다양체의 위상 프린트 간 유사도를 분리성 품질의 대체 척도로 사용한다.
• 가용한 지도 신호에 따라 비지도 및 지도 학습 변형을 모두 지원한다.
• 추가 학습이나 외부 모델 없이 생성 모델의 출력만으로 작동한다.
• 다양한 데이터셋과 모델 아키텍처에 일반화 가능하도록 설계되어 있다.

실험 결과

연구 질문

• RQ1 조건부 부분다양체의 위상적 성질이 딥 생성 모델의 분리성을 신뢰성 있게 나타내는가?
• RQ2 제안된 위상적 측정 기준은 기존의 분리성 평가 방법에 비해 일관성과 강건성 면에서 어떻게 비교되는가?
• RQ3 외부 모델이나 데이터셋에 특화된 가정 없이 분리성을 얼마나 잘 평가할 수 있는가?
• RQ4 다양한 데이터셋과 모델 아키텍처에서 이 방법이 일관된 성능을 유지하는가?
• RQ5 이 방법은 최첨단 생성 모델의 분리성 품질을 효과적으로 순위 매길 수 있는가?

주요 결과

• 제안된 방법은 기존 평가 방법으로부터 도출된 분리성 순위와 일관된 결과를 도출한다.
• 외부 모델이 필요 없이 생성 모델의 내부 표현만을 사용하여 분리성을 성공적으로 평가한다.
• 위상적 유사도 측정 기준은 여러 데이터셋과 모델 아키텍처에서 강건성을 보여준다.
• 비지도 및 지도 학습 변형 모두가 신뢰할 수 있고 유사한 분리성 점수를 도출한다.
• 기존의 확립된 측정 기준과 유사한 성능을 달성하지만, 더 일반적이며 가정에 의존도가 낮다.