[論文レビュー] On the Implicit Assumptions of GANs

Ke Li, Jitendra Malik|arXiv (Cornell University)|Nov 29, 2018

Generative Adversarial Networks and Image Synthesis参考文献 11被引用数 14

ひとこと要約

この論文は、GANにおける理論的保証を損ない、モード脱落や歪んだ評価を引き起こす、重要な暗黙の仮定——特に訓練中に真のデータ分布へのアクセスに依存していること——を特定する。これに対して、明示的な尤度計算を必要とせず、最大尤度推定を直接最適化することで、完全なリcall（再現率）を強制し、分布モデリングを改善する、尤度フリーな手法である暗黙の最大尤度推定（IMLE）を提案する。

ABSTRACT

Generative adversarial nets (GANs) have generated a lot of excitement. Despite their popularity, they exhibit a number of well-documented issues in practice, which apparently contradict theoretical guarantees. A number of enlightening papers have pointed out that these issues arise from unjustified assumptions that are commonly made, but the message seems to have been lost amid the optimism of recent years. We believe the identified problems deserve more attention, and highlight the implications on both the properties of GANs and the trajectory of research on probabilistic models. We recently proposed an alternative method that sidesteps these problems.

研究の動機と目的

• 訓練中に真のデータ分布にアクセス可能であるという、GAN理論における暗黙の仮定を暴露すること。これは実際にはほとんど成立しない。
• この仮定が、JSや逆KLダイバージェンスなどのf-ダイバージェンスの最小化という、GANに関する誤った理論的主張を生じることを強調すること。
• リcallが強制されていない場合、現在の評価指標（例：精度）が不十分であることを実証し、サンプル品質と分布の整合性の間の不一致を明らかにすること。
• 生成モデル分野の研究が、多様性の損失を伴っても高品質なサンプルを生成することに焦点を移した結果、真のデータ分布の学習から逸脱していることを主張すること。
• 尤度が計算不能な暗黙的モデルに対して、明示的な尤度計算を必要とせず、完全なリcallを強制し、最大尤度推定の目的を回復する、尤度フリーな代替手法として暗黙の最大尤度推定（IMLE）を提案すること。

提案手法

• 論文は、尤度が計算不能な暗黙的モデルに適した、最大尤度を近似する尤度フリーなパrameter推定手法である暗黙の最大尤度推定（IMLE）を導入する。この手法は、生成されたサンプルと訓練データ点との間の期待距離を最小化することで、最大尤度を近似する。
• IMLEは、各生成サンプルに対して最も近い訓練例を近傍探索で特定し、生成サンプルとその訓練データの最近傍とのL2距離を最小化する。
• 尤度の明示的計算を避けるために、最近傍回帰による尤度目的関数の微分可能近似に依存する。
• IMLEは、尤度が計算不能な暗黙的モデルと互換性があり、生成サンプルが任意の訓練例から離れている場合にペナルティを与えることで、モードを欠落させないよう保証する。
• 生成サンプルが経験的データ分布のサポート外にある場合にコストがかかるようにすることで、完全なリcallを強制する。
• 勾配降下法により訓練目的関数を最適化し、最近傍マッピングを通じて勾配を計算することで、生成器のエンドツーエンド学習を可能にする。

実験結果

リサーチクエスチョン

• RQ1 JSや逆KLダイバージェンスの最小化に関する誤った主張を引き起こす、GAN理論における暗黙の仮定とは何か？
• RQ2 訓練中に真のデータ分布を経験的データ分布に置き換えると、なぜGANにおける理論的保証が無効化されるのか？
• RQ3 真のデータ分布へのアクセスという仮定と敵対的目的の使用が、GANにおけるモード脱落をどのように引き起こすのか？
• RQ4 リcallが測定されていない場合、精度に基づく評価がなぜ不十分なのか？生成モデルにおけるモデル比較にどのような影響があるのか？
• RQ5 尤度の明示的計算を必要とせず、完全なリcallを強制し、暗黙的モデルにおける最大尤度推定を達成できる尤度フリーな手法を設計できるか？

主な発見

• 経験的データ分布と任意の連続的モデル分布との間のジェンセン・シャノンダイバージェンスは常に log 2 であり、0に最小化されないため、実際にはGANがJSダイバージェンスを最小化しているという主張は誤りである。
• 連続的モデルに対して、モデルから経験的データ分布への逆KLダイバージェンスは定義されない。なぜなら、モデルのサポートが経験的データ分布の離散的サポートに含まれないからである。
• リcallが測定されていない場合、GANの評価を精度のみに依存するのは誤解を招く。精度の向上は、むしろリcallの低下に起因する可能性がある。
• 信頼できるリcallの測定ができないことが、研究の焦点が真のデータ分布の学習から、高品質だがモード脱落を起こす可能性のあるサンプルの生成へとシフトした原因となっている。
• 暗黙の最大尤度推定（IMLE）は、完全なリcallを強制し、暗黙的モデルにおける最大尤度推定を近似する尤度フリーな代替手法として効果を発揮する。
• IMLEは、生成サンプルが任意の訓練例から離れている場合にペナルティを与えることで、学習データを無視することを防ぎ、モード脱落を回避し、分布の整合性を向上させる。