[논문 리뷰] Rethinking Generative Mode Coverage: A Pointwise Guaranteed Approach

Peilin Zhong, Yuchen Mo외 3명|arXiv (Cornell University)|2019. 02. 13.

Probabilistic and Robust Engineering Design참고 문헌 43인용 수 5

한 줄 요약

이 논문은 점별 보장 방법을 제안하여 생성 모드 커버리지를 확보한다. 혼합 생성자 모델을 구성함으로써 모든 데이터 포인트가 하한 확률로 생성되도록 보장하며, 이는 완전한 모드 커버리지를 보장한다. 게임 이론 프레임워크와 곱셈 가중치 업데이트를 사용하여, 전역 통계적 거리 최소화 및 이전의 혼합 기반 방법(예: AdaGAN)보다 우수한 성능을 내며, 어려운 합성 및 실세계 데이터셋에서 더 적은 반복 횟수로 완전한 모드 커버리지를 달성한다.

ABSTRACT

Many generative models have to combat $ extit{missing modes}$. The conventional wisdom to this end is by reducing through training a statistical distance (such as $f$-divergence) between the generated distribution and provided data distribution. But this is more of a heuristic than a guarantee. The statistical distance measures a $ extit{global}$, but not $ extit{local}$, similarity between two distributions. Even if it is small, it does not imply a plausible mode coverage. Rethinking this problem from a game-theoretic perspective, we show that a complete mode coverage is firmly attainable. If a generative model can approximate a data distribution moderately well under a global statistical distance measure, then we will be able to find a mixture of generators that collectively covers $ extit{every}$ data point and thus $ extit{every}$ mode, with a lower-bounded generation probability. Constructing the generator mixture has a connection to the multiplicative weights update rule, upon which we propose our algorithm. We prove that our algorithm guarantees complete mode coverage. And our experiments on real and synthetic datasets confirm better mode coverage over recent approaches, ones that also use generator mixtures but rely on global statistical distances.

연구 동기 및 목표

• 전역 통계적 거리가 작더라도 모드가 생략되는 모드 붕괴 문제를 해결하기 위해.
• 모드 커버리지를 전역 통계적 측정이 아닌, 모든 데이터 포인트에 대해 생성 확률의 국소적 점별 하한으로 재정의하기 위해.
• 새로운 생성 모델 아키텍처를 요구하지 않고도 완전한 모드 커버리지를 이론적으로 보장하는 방법을 제공하기 위해.
• 기존 생성자(예: GAN)의 혼합을 통해 게임 이론 원리에 기반한 새로운 알고리즘으로 훈련할 경우, 전체 모드 커버리지를 달성할 수 있음을 보여주기 위해.

제안 방법

• 점별 커버리지 조건을 도입: 생성자는 모든 데이터 포인트 x에 대해 g(x) ≥ ψ·p(x) 확률로 생성해야 하며, 여기서 ψ ∈ (0,1)은 유연성 상수이다.
• 문제를 생성자 선택자(앨리스)와 데이터 포인트 선택자(밥) 사이의 이인자 게임으로 프레임워크화하며, 앨리스는 밥이 선택한 x에 대해 g(x) ≥ ψ·p(x)를 만족할 경우 승리한다.
• 점차적으로 생성자를 조합하기 위해 곱셈 가중치 업데이트 규칙을 적용함으로써, 혼합 생성자가 점별 커버리지 조건을 만족하도록 보장한다.
• 중간 정도의 전역 분포 유사성 하에서, 생성자 혼합이 생성 확률에 하한 보장을 제공하며 완전한 모드 커버리지를 달성할 수 있음을 증명한다.
• 샘플된 포인트에서의 커버리지 성능에 기반해 가중치를 반복적으로 업데이트함으로써 생성자 혼합을 구성하는 알고리즘(알고리즘 1)을 설계한다.
• 실세계 데이터셋에서 모드별 생성 확률을 추정하기 위해 사전 훈련된 분류기를 활용하여, 실질적인 모드 커버리지 평가를 가능하게 한다.

실험 결과

연구 질문

• RQ1 f-분산 또는 워샤르스탄 거리와 같은 전역 통계적 거리에 의존하지 않고도 생성 모델링에서 완전한 모드 커버리지를 보장할 수 있는가?
• RQ2 새로운 모델을 훈련하지 않고도 기존 생성자들의 혼합만으로도 완전한 모드 커버리지를 달성할 수 있는가?
• RQ3 모든 데이터 포인트에 대해 점별 커버리지의 이론적 보장을 가능하게 하는 게임 이론적 프레임워크는 무엇인가?
• RQ4 복잡한 다중 모드 분포에서 기존의 혼합 기반 접근법(예: AdaGAN)과 비교해 본다면, 제안된 방법은 효율성과 커버리지 측면에서 어떻게 다른가?
• RQ5 제안된 방법이 희귀하거나 고립된 모드조차도 사라지지 않는 확률로 생성할 수 있는가?

주요 결과

• 제안된 방법은 20개의 나선형 모드와 442개의 모드 분포를 포함한 모든 테스트 데이터셋에서 완전한 모드 커버리지를 달성하지만, AdaGAN은 고립되거나 희귀한 모드를 커버하지 못한다.
• 20개의 나선형 모드를 가진 어려운 D_s 데이터셋에서, 제안된 방법은 9회 반복 내에 모든 모드를 커버하지만, AdaGAN은 25회 반복을 요구하며 일부 모드를 놓친다.
• 441개의 격자 모드와 하나의 고립 모드를 포함하는 D_i 데이터셋에서, 제안된 방법은 모든 모드를 성공적으로 커버하지만, AdaGAN은 고립 모드를 완전히 커버하지 못한다.
• 훈련 시간을 크게 단축시켰다: 동일한 데이터셋에서 제안된 방법은 모든 모드를 커버하는 데 134분이 소요되었고, AdaGAN은 437분이 소요되었다.
• Stacked MNIST와 합성 데이터에서의 실험에서, 제안된 방법은 항상 10개 또는 20개의 모든 모드를 커버하지만, AdaGAN은 D_s에서 20개 모드 중 14개만 커버하고 D_i의 고립 모드에서는 실패한다.
• 점별 커버리지 조건(g(x) ≥ ψ·p(x))는 총 변동 거리에 상한(≤ 1−ψ)을 부여하며, 이는 전역 분포 유사성과 이론적으로 일관됨을 의미한다.