[논문 리뷰] $(f,Γ)$-Divergences: Interpolating between $f$-Divergences and Integral Probability Metrics

Jeremiah Birrell, Paul Dupuis외 3명|arXiv (Cornell University)|2020. 11. 11.

Mathematical Analysis and Transform Methods참고 문헌 68인용 수 7

한 줄 요약

이 논문은 $f$-divergence와 적분 확률 거리(IPM) 사이를 연결하는 통합 프레임워크인 $(f,\Gamma)$-divergence를 소개한다. 이는 IPM이 가진 비절대연속 측도를 다룰 수 있는 능력과 $f$-divergence가 지닌 변분 표현에서의 엄밀한 볼록성의 장점을 결합한다. 이 방법은 체중이 무거운 분포나 특이 분포에 대해 생성적 적대 신경망(GAN)의 안정적 훈련을 가능하게 하며, 기존의 기울기 페널티를 적용한 워샤르 거리 GAN보다 영상 생성 과업에서 뛰어난 성능을 보인다.

ABSTRACT

We develop a rigorous and general framework for constructing information-theoretic divergences that subsume both $f$-divergences and integral probability metrics (IPMs), such as the $1$-Wasserstein distance. We prove under which assumptions these divergences, hereafter referred to as $(f,Γ)$-divergences, provide a notion of `distance' between probability measures and show that they can be expressed as a two-stage mass-redistribution/mass-transport process. The $(f,Γ)$-divergences inherit features from IPMs, such as the ability to compare distributions which are not absolutely continuous, as well as from $f$-divergences, namely the strict concavity of their variational representations and the ability to control heavy-tailed distributions for particular choices of $f$. When combined, these features establish a divergence with improved properties for estimation, statistical learning, and uncertainty quantification applications. Using statistical learning as an example, we demonstrate their advantage in training generative adversarial networks (GANs) for heavy-tailed, not-absolutely continuous sample distributions. We also show improved performance and stability over gradient-penalized Wasserstein GAN in image generation.

연구 동기 및 목표

• 통계학적 학습에서 각각의 한계를 극복하기 위해 $f$-divergence와 적분 확률 거리(IPM)를 통합하는 일반적인 발산 프레임워크를 개발하는 것.
• 특히 분포가 절대연속이 아니거나 꼬리가 두꺼운 경우에도 확률 측도의 안정적인 추정과 비교를 가능하게 하는 것.
• 제약 조건이 부여된 함수 공간을 활용한 변분 표현을 통해 생성 모델, 특히 GAN의 훈련 안정성과 성능을 향상시키는 것.
• $(f,\Gamma)$-divergence의 이론적 성질을 수립하는 것. 엄밀한 볼록성과 이중단계 질량 재분배 해석을 포함한다.
• 기존 방법들, 예를 들어 기울기 페널티를 적용한 워샤르 거리 GAN보다 영상 생성 및 분포 모델링 과업에서 경험적으로 뛰어난 성능을 보여주는 것.

제안 방법

• 변분 공식을 통해 $(f,\Gamma)$-divergence를 제안한다: $D_f^\Gamma(Q\|P) = \sup_{g \in \Gamma} \left\{ \mathbb{E}_Q[g] - \Lambda_f^P[g] \right\}$, 여기서 $\Lambda_f^P[g] = \inf_{\nu \in \mathbb{R}} \left\{ \nu + \mathbb{E}_P[f^*(g - \nu)] \right\}$.
• 이중단계 질량 재분배 과정을 도입한다: 먼저 $\nu$ 최적화를 통해 최적의 이동량 $\nu$를 선택하고, 그 다음 $g$를 $\Gamma$ 내에서 최적화함으로써 탄력적이고 안정적인 발산 추정이 가능해진다.
• 함수 $f$가 볼록이고 $f(1) = 0$인 조건을 만족하도록 $f$의 레전드르 변환 $f^*$를 사용하여 적절한 발산 구조와 변분 이중성을 보장한다.
• 유계 가측 함수 $\Gamma \subset \mathcal{M}_b(\Omega)$를 사용하여 문제의 잘 정의됨을 확보하고, 실무에서 신경망을 통한 근사가 가능하도록 한다.
• 이차 도함수 분석을 통해 변분 목표 함수의 엄밀한 볼록성을 도출하여 최적화에서 수렴 보장을 확보한다.
• 신경망을 판별기로 사용하여 GAN을 훈련시키는 데 이 프레임워크를 적용하며, $\Gamma$를 제약 조건으로 하여 안정성을 확보하기 위해 리프레시-립시츠 조건 또는 역리프레시-립시츠 조건을 부여한다.

실험 결과

연구 질문

• RQ1 IPM의 강건성과 $f$-divergence의 강력한 변분 성질을 동시에 갖춘 통합 발산 프레임워크를 구축할 수 있는가?
• RQ2 변분 표현에 이동량 최적화 단계($\nu$)를 포함시키는 것이 발산의 이론적 및 실용적 성질에 어떤 영향을 미치는가?
• RQ3 기존의 $f$-divergence가 실패하는 체중이 무거운 분포나 특이 분포에 대해 $(f,\Gamma)$-divergence가 GAN 훈련을 안정화시킬 수 있는가?
• RQ4 특히 절대연속이 아닌 설정에서, 함수 공간 $\Gamma$가 발산의 행동을 제어하는 데 어떤 역할을 하는가?
• RQ5 $(f,\Gamma)$-divergence의 이중단계 질량 재분배 해석은 그 기하학적 및 통계적 성질을 어떻게 설명하는가?

주요 결과

• $(f,\Gamma)$-divergence 프레임워크는 $f$와 $\Gamma$에 대한 미약한 정규성 조건 하에서 확률 측도 간의 거리 개념을 제공하며, 이는 $f$-divergence와 IPM을 일반화한다.
• 측도 $P_0$ 하에서 편차 $\psi$의 분산이 0이 아닐 경우, $(f,\Gamma)$-divergence의 변분 표현은 $g$에 대해 엄밀히 볼록하므로 최적화의 안정성을 보장한다.
• KL 발산의 경우, 目적 함수의 이阶 도함수는 $-\operatorname{Var}_{P_0}[\psi]$이며, 이는 이중 표현에서 엄밀한 볼록성과 수렴 보장을 확인한다.
• 이 프레임워크는 기존의 $f$-GAN이 조건이 유한함에도 불구하고 실패하는 체중이 무거운 분포나 절대연속이 아닌 분포에 대해서도 효과적인 GAN 훈련을 가능하게 한다.
• 경험적 결과는 영상 생성 과업에서 기울기 페널티를 적용한 워샤르 거리 GAN보다 더 뛰어난 성능과 안정성을 보이며, 수렴 속도가 빠르고 샘플 품질이 높다.
• $(f,\Gamma)$-divergence를 기반으로 한 역리프레시-립시츠 $\alpha$-GAN 변종은 $D_f(P_\theta\|Q) < \infty$ 조건이 성립함에도 불구하고 표준 $f$-GAN과 WGAN-GP보다 더 뛰어난 샘플 충실도와 훈련 안정성을 달성한다.