[논문 리뷰] Learning Implicit Generative Models Using Differentiable Graph Tests

Josip Djolonga, Andreas Krause|arXiv (Cornell University)|2017. 09. 04.

Graph Theory and Algorithms참고 문헌 22인용 수 5

한 줄 요약

이 논문은 비방향 그래픽 모델과 행렬 트리 정리(의용 그래픽 모델의 요소)를 사용하여 조합 통계량을 스무딩함으로써 고전적인 두 표본 그래프 검정—프리드먼-래프스키 및 k-최근접 이웃—의 미분 가능 판본을 제안한다. 결과적으로 스무딩된 검정은 미분 가능하고 점차 정규성을 가지며, 고전적 판본보다 유의미하게 높은 검정력(power)을 보이며, 개선된 샘플 품질을 얻을 수 있도록 은닉 생성 모델의 효과적인 훈련을 가능하게 한다. 이는 확률적 최적화를 통한 기반 모델의 훈련에 기여한다.

ABSTRACT

Recently, there has been a growing interest in the problem of learning rich implicit models - those from which we can sample, but can not evaluate their density. These models apply some parametric function, such as a deep network, to a base measure, and are learned end-to-end using stochastic optimization. One strategy of devising a loss function is through the statistics of two sample tests - if we can fool a statistical test, the learned distribution should be a good model of the true data. However, not all tests can easily fit into this framework, as they might not be differentiable with respect to the data points, and hence with respect to the parameters of the implicit model. Motivated by this problem, in this paper we show how two such classical tests, the Friedman-Rafsky and k-nearest neighbour tests, can be effectively smoothed using ideas from undirected graphical models - the matrix tree theorem and cardinality potentials. Moreover, as we show experimentally, smoothing can significantly increase the power of the test, which might of of independent interest. Finally, we apply our method to learn implicit models.

연구 동기 및 목표

• 밀도 평가가 불가능한 은닉 생성 모델 훈련의 과제를 해결하기 위해 기반 모델의 미분 가능 최적화를 가능하게 한다.
• 비차별성 두 표본 검정—프리드먼-래프스키 및 k-NN—을 스무딩을 통해 확률적 최적화와 호환되도록 만든다.
• 스무딩을 통해 고전적인 그래프 기반 두 표본 검정의 통계적 검정력을 향상시켜 모델 훈련에서의 유용성을 높인다.
• 스무딩된 검정이 MNIST 및 토이 분포와 같은 생성 모델링 과제에서 더 나은 샘플 품질을 제공함을 보여준다.

제안 방법

• 비방향 그래픽 모델의 순서 수량 잠재변수와 행렬 트리 정리를 사용하여 프리드먼-래프스키 및 k-NN 검정의 조합 통계량을 스무딩한다.
• 온도 제어 소프트맥스 스무딩을 통해 스패닝 트리에 대한 통합을 통해 검정 통계량의 미분 가능 근사치를 구성한다.
• 약한 조건 하에서 점차 정규성을 가지는 t-통계량을 유도하여 신뢰할 수 있는 추론을 가능하게 한다.
• 스무딩된 t-통계량을 기반으로 딥 생성 모델의 파라미터를 확률적 경사 하강법(예: Adam)을 통해 최적화하기 위한 미분 가능한 손실 함수로 사용한다.
• 생성된 데이터와 진짜 데이터 샘플에 대해 스무딩된 검정 통계량의 기대값을 최대화함으로써 은닉 모델을 훈련시킨다.
• p-값을 추정하고 스무딩 하에서 귀무분포의 정규성 검증을 위해 순열 검정을 적용한다.

실험 결과

연구 질문

• RQ1 비차별성 두 표본 그래프 검정—프리드먼-래프스키 및 k-NN—을 은닉 생성 모델의 엔드 투 엔드 훈련과 호환되도록 만들 수 있는가?
• RQ2 비방향 그래픽 모델을 사용하여 검정 통계량을 스무딩하면 고전적인 그래프 기반 검정의 통계적 검정력이 향상되는가?
• RQ3 스무딩된 검정 통계량은 점차 정규성과 일致성을 유지하면서도 여전히 미분 가능하게 만들 수 있는가?
• RQ4 검정력과 생성 모델 품질 측면에서 스무딩된 검정은 MMD 및 고전적 검정과 비교해 어떻게 성능을 내는가?
• RQ5 스무딩 파라미터 λ가 모델 수렴과 샘플 품질에 어떤 영향을 미치는가?

주요 결과

• 스무딩된 프리드먼-래프스키 및 k-NN 검정은 특히 고차원 설정에서 척도 대비 대안에 대해 고전적 판본보다 유의미하게 높은 검정력을 보이며 뛰어난 성능을 발휘한다.
• λ가 감소할수록 스무딩된 검정 통계량의 귀무분포가 점차 정규분포에 가까워지며, 이는 t-통계량 근사의 타당성을 검증하고 최적화의 안정성을 향상시킨다.
• 이중 반달 데이터셋에서 λ를 감소시킬수록 더 잘 구조화되고 대칭적이며 더 잘 분리된 생성 샘플이 만들어지며, 진짜 데이터 분포와 유사해진다.
• MNIST에서 학습된 모델은 원시 픽셀 거리와 특별한 아키텍처 수정 없이도 MMD로 훈련된 모델 수준의 현실적인 숫자를 생성한다.
• 척도 이동 대비 대안에서는 스무딩된 검정이 MMD보다 더 높은 검정력을 보이며, 미세한 분포 차이를 탐지하는 데서의 우수성을 입증한다.
• 이 방법은 손실 함수가 미분 가능하고 표준 딥러닝 프레임워크에 적합하므로 은닉 모델의 효과적인 훈련을 가능하게 한다.