[論文レビュー] Learning Deep Energy Models: Contrastive Divergence vs. Amortized MLE

Qiang Liu, Dilin Wang|arXiv (Cornell University)|Jul 4, 2017

Generative Adversarial Networks and Image Synthesis参考文献 27被引用数 15

ひとこと要約

本稿では、対照的勾配降下法（CD）とスティーン変分勾配降下法（SVGD）を組み合わせることで、深層エネルギーモデルを訓練するための新しいアルゴリズム、SteinCD と SteinGAN を提案する。SteinCD は、SVGD を用いて対照的学習を強化することでテスト尤度を向上させる。一方、SteinGAN は生成ネットワークを用いて負例をアモアタイズ化することで高品質な画像を生成する。両者を併用することで、高い尤度と現実的なサンプル生成の両方を達成する。

ABSTRACT

We propose a number of new algorithms for learning deep energy models and demonstrate their properties. We show that our SteinCD performs well in term of test likelihood, while SteinGAN performs well in terms of generating realistic looking images. Our results suggest promising directions for learning better models by combining GAN-style methods with traditional energy-based learning.

研究の動機と目的

• 良好なテスト尤度を示すものの、高品質なサンプルを生成できない従来の対照的勾配降下法（CD）の限界を解消する。
• エネルギーベース学習とGAN風の生成を統合することで、GANの明示的なエネルギースコアの欠如と一般化能力の不足を克服する。
• スティーン変分勾配降下法（SVGD）とCDの理論的関係を活用し、エネルギーベースモデルのための新しい学習アルゴリズムを設計する。
• SteinCD と SteinGAN を組み合わせることで、両者の長所を併せ持つモデルが得られることを示す：高いテスト尤度と現実的な画像生成の両立。

提案手法

• 訓練中にモデル分布の近似を改善するためにSVGDを統合した、CDの変種であるSteinCDを提案する。
• 最大尤度推定における負例のアモアタイズにニューラル生成器を用いることで、従来のMCMCサンプリングに代わる方法を提供する、SteinGANを導入する。
• SVGDを用いて真の事後分布を近似する決定的かつ粒子ベースの最適化を導出し、サンプル品質と尤度推定を向上させる。
• 訓練の安定化と対数パーティション関数の正則化を図るため、割引係数を導入してMLEの目的関数を修正する。
• クラスラベルを条件として与えることで、画像-ラベルペアにエネルギーモデルを同時に学習させ、制御された画像生成を可能にする。
• 公平な比較のため、DCGANと同一の生成器アーキテクチャを採用するが、エネルギーモデル（識別器）のパラメータ数をDCGANより少なくする。

実験結果

リサーチクエスチョン

• RQ1 SVGDとCDの理論的関係を活用することで、深層エネルギーモデルの訓練における対照的勾配降下法の性能を向上させることができるか？
• RQ2 生成ネットワークがエネルギーベースモデルの最大尤度推定における負例を効果的にアモアタイズ化できるか。これにより高品質な画像生成が可能になるか？
• RQ3 SteinCD と SteinGAN は、それぞれ高いテスト尤度と高品質なサンプル生成という相補的な強みを示すか。両者を組み合わせることで性能が向上するか？
• RQ4 SteinGANで訓練されたエネルギーベースモデルは、GANと同等の画像品質を達成できるか。同時にエネルギースコアと一般化能力の利点を維持できるか？
• RQ5 標準的なMLEやCDと比較して、生成器に基づく負例サンプリング戦略の導入が、訓練の安定性とモデル容量にどのような影響を与えるか？

主な発見

• SteinCD は高いテスト尤度を達成し、最先端のMLEベース手法と同等の一般化性能を示す。
• SteinGAN は、視覚的品質と多様性において、GAN風の手法と競合する高品質な画像を生成する。
• SteinGAN のインceptionスコアはDCGANと同等であり、生成画像の知覚的品質が優れていることを示す。
• 生成画像を訓練データとして使用してResNetを学習した際、ベースライン手法よりも高い分類精度を達成しており、意味的情報をより多く保持していることが示唆される。
• SteinCD と SteinGAN の更新を併用することで、同時に高いテスト尤度と高品質なサンプル生成を達成するモデルが得られる。
• 更新ルールに割引係数を導入することで、訓練が安定化し、対数パーティション関数の正則化が性能向上に寄与する。