[論文レビュー] $(f,Γ)$-Divergences: Interpolating between $f$-Divergences and Integral Probability Metrics

Jeremiah Birrell, Paul Dupuis+3 more|arXiv (Cornell University)|Nov 11, 2020

Mathematical Analysis and Transform Methods参考文献 68被引用数 7

ひとこと要約

本稿では、$f$-発散と積分確率的メトリック（IPM）の両者を補完する統一的枠組みである$(f,\Gamma)$-発散を導入する。この枠組みは、非絶対連続測度（IPMの特徴）を扱える能力と、変分表現における厳密な凹性（$f$-発散の特徴）を併せ持つ。この手法により、重たい尾を持つ分布や特異的分布に対しても、生成的対抗ネットワーク（GAN）の安定した学習が可能となり、勾配ペナルティ付きワサーレイン GAN よりも画像生成タスクで優れた性能を示す。

ABSTRACT

We develop a rigorous and general framework for constructing information-theoretic divergences that subsume both $f$-divergences and integral probability metrics (IPMs), such as the $1$-Wasserstein distance. We prove under which assumptions these divergences, hereafter referred to as $(f,Γ)$-divergences, provide a notion of `distance' between probability measures and show that they can be expressed as a two-stage mass-redistribution/mass-transport process. The $(f,Γ)$-divergences inherit features from IPMs, such as the ability to compare distributions which are not absolutely continuous, as well as from $f$-divergences, namely the strict concavity of their variational representations and the ability to control heavy-tailed distributions for particular choices of $f$. When combined, these features establish a divergence with improved properties for estimation, statistical learning, and uncertainty quantification applications. Using statistical learning as an example, we demonstrate their advantage in training generative adversarial networks (GANs) for heavy-tailed, not-absolutely continuous sample distributions. We also show improved performance and stability over gradient-penalized Wasserstein GAN in image generation.

研究の動機と目的

• 統計的学習における両者の限界を克服する、$f$-発散と積分確率的メトリック（IPM）を統合する一般化された発散枠組みの構築を目的とする。
• 分布が絶対連続でない、あるいは重たい尾を持つ場合を含め、確率測度のロバストな推定と比較を可能にする。
• 制限付き関数空間を用いた変分表現を活用することで、生成モデル、特にGANにおける学習の安定性と性能を向上させる。
• $(f,\Gamma)$-発散の理論的性質、特に厳密な凹性と二段階の質量再分配解釈を確立する。
• 画像生成や分布モデリングの分野で、勾配ペナルティ付きワサーレイン GAN よりも優れた既存手法を実証的に示す。

提案手法

• 変分表現を用いて$(f,\Gamma)$-発散を定式化：$D_f^\Gamma(Q\|P) = \sup_{g \in \Gamma} \left\{ \mathbb{E}_Q[g] - \Lambda_f^P[g] \right\}$、ここで$\Lambda_f^P[g] = \inf_{\nu \in \mathbb{R}} \left\{ \nu + \mathbb{E}_P[f^*(g - \nu)] \right\}$。
• 二段階の質量再分配プロセスを導入：まず最適なシフト$\nu$を$\nu$-最適化により選択し、その後$g$を$\Gamma$上で最適化することで、柔軟かつ安定した発散推定を可能にする。
• 凸関数$f$（$f(1) = 0$を満たす）のLegendre変換$f^*$を用いることで、適切な発散構造と変分双対性を保証する。
• 有界可測関数$\Gamma \subset \mathcal{M}_b(\Omega)$を用いることで、適切な定式化を保ち、実用上はニューラルネットワークによる近似を可能にする。
• 2階微分の解析により、変分目的関数の厳密な凹性を導出し、最適化における収束を保証する。
• 判別器としてニューラルネットワークを用い、$\Gamma$を制限することで、安定性を確保するためのリプシッツまたは逆リプシッツ条件を強制する。

実験結果

リサーチクエスチョン

• RQ1 IPMのロバスト性と$f$-発散の強力な変分的性質を併せ持つ、統一的発散枠組みを構築可能か？
• RQ2 変分表現にシフト最適化ステップ（$\nu$）を組み込むことで、発散の理論的・実用的性質にどのような影響を与えるか？
• RQ3 $(f,\Gamma)$-発散は、標準的な$f$-発散が失敗する重たい尾や特異的分布に対しても、GANの学習を安定化できるか？
• RQ4 関数空間$\Gamma$は、特に絶対連続でない状況下で、発散の挙動をどのように制御するか？
• RQ5 $(f,\Gamma)$-発散の二段階の質量再分配解釈は、その幾何的・統計的性質にどのように寄与するか？

主な発見

• $(f,\Gamma)$-発散枠組みは、$f$および$\Gamma$に関するやや弱い正則性条件の下で、確率測度間の距離の概念を提供し、$f$-発散とIPMの両方を一般化する。
• 発散の変分表現は、測度$P_0$における摂動$\psi$の分散が非ゼロである限り、$g$に関して厳密に凹になるため、最適化の安定性が保証される。
• KL発散のケースでは、目的関数の2階微分が$-\operatorname{Var}_{P_0}[\psi]$となることが確認され、双対表現における厳密な凹性と収束保証が裏付けられる。
• この枠組みにより、古典的な$f$-GANが発散が有限であっても失敗する重たい尾や絶対連続でない分布に対しても、GANの有効な学習が可能になる。
• 実験的結果では、画像生成タスクにおいて勾配ペナルティ付きワサーレイン GAN よりも優れた性能と安定性を示し、収束が速く、サンプル品質も良好である。
• $(f,\Gamma)$-発散に基づく逆リプシッツ$\alpha$-GANの変種は、$D_f(P_\theta\|Q) < \infty$であっても、標準的な$f$-GAN や WGAN-GP よりも優れたサンプル忠実度と学習安定性を達成する。