[論文レビュー] Boltzmann Encoded Adversarial Machines

Charles K. Fisher, Smith, Aaron M.+1 more|arXiv (Cornell University)|Apr 23, 2018

Generative Adversarial Networks and Image Synthesis参考文献 2被引用数 8

ひとこと要約

本稿では、制限ボルツマンマシン（RBMs）のための新しい訓練手法であるボルツマン符号化対抗機械（BEAMs）を提案する。この手法は、最大尤度訓練と、隠れユニット活性化に基づく対抗損失を組み合わせるものである。本手法では、RBMsの隠れ表現を用いて、本物のデータとモデルが生成したサンプルを区別するように敵対的ネットワークを訓練することで、MNIST や CelebA といったベンチマークデータセットにおいて、標準的な RBMs や GAN よりも優れた生成性能を達成する。

ABSTRACT

Restricted Boltzmann Machines (RBMs) are a class of generative neural network that are typically trained to maximize a log-likelihood objective function. We argue that likelihood-based training strategies may fail because the objective does not sufficiently penalize models that place a high probability in regions where the training data distribution has low probability. To overcome this problem, we introduce Boltzmann Encoded Adversarial Machines (BEAMs). A BEAM is an RBM trained against an adversary that uses the hidden layer activations of the RBM to discriminate between the training data and the probability distribution generated by the model. We present experiments demonstrating that BEAMs outperform RBMs and GANs on multiple benchmarks.

研究の動機と目的

• 尤度ベースの訓練における RBMs の限界、特に低データ密度領域における高尤度領域へのペナルティ不足を是正すること。
• 隠れ層の活性化を識別器の入力として用いる対抗訓練を組み込むことで、RBM の訓練安定性と性能を向上させること。
• 対数尤度と対抗目的を組み合わせることで、単独で用いる場合よりも優れた生成モデリングが達成されることを示すこと。
• BEAMs が、同等またはより高い複雑性を持つ GAN よりも画像生成ベンチマークで優れた性能を示すこと。
• 安定的かつ効果的な訓練パラダイムを導入することで、現代の教師なし学習における RBMs の有効性を再確立すること。

提案手法

• 負の対数尤度目的と対抗損失項の凸結合を用いて RBM を訓練する。
• 本物のデータと生成されたサンプルを識別するための識別器ネットワークに、RBMs の隠れユニット活性化を入力とする。
• 生の可視ユニットではなく、隠れ表現を用いることで、より単純で安定した訓練が可能になる。
• 初期の尤度事前訓練には持続的対比分散を用い、その後対抗損失と共同最適化を行う。
• 低次元のベンチマークタスクと高次元の画像生成タスクの両方に対して、別個のオートエンコーダーによる特徴抽出を用いて適用する。
• 2段階の訓練スケジュールを採用：最初に尤度のみで事前学習し、その後結合目的で微調整することで、モードカバレッジと再構成忠実度のバランスを取る。

実験結果

リサーチクエスチョン

• RQ1 隠れ層活性化に基づく対抗訓練は、標準的な尤度ベースの訓練に比べて、RBMs の生成品質を向上させることができるか？
• RQ2 RBMs において対数尤度と対抗目的を組み合わせることで、単独で用いる場合よりも優れたモードカバレッジと分布的乖離の低減が達成されるか？
• RQ3 より単純でエンドツーエンドではない訓練戦略を採用しているにもかかわらず、BEAMs は画像生成タスクで GAN よりも優れた性能を示せるか？
• RQ4 隠れユニットベースの識別が、RBMs を用いたモデルにおける訓練安定性と収束性にどのように影響するか？
• RQ5 BEAMs は、アーキテクチャの変更なしに、マルチモーダルデータや時系列データなど、さまざまなデータモダリティに一般化できる程度はどの程度か？

主な発見

• BEAMs は、MNIST や CelebA を含む複数のベンチマークで、標準的な RBMs や GAN よりもサンプル品質と分布的忠実度において優れた性能を示す。
• BEAMs における対数尤度と対抗目的の組み合わせにより、前向きおよび逆向きの KL 散乱が低減され、マルチモーダルなデータ分布のより良いモデリングが可能になる。
• BEAMs が生成する画像は、わずかに GAN 生成画像よりぼやけているものの、強いグローバル一貫性と整合的な顔貌特徴を示す。
• GAN（DCGAN/DCWGAN）は、局所的特徴はシャープに生成するが、グローバルな相関性に欠けるため、局所的詳細と構造的一致性のトレードオフが生じている。
• 特に訓練の複雑さを考慮すると、最先端の GAN よりもはるかに低い計算コストで競争力のある性能を達成している。
• BEAMs にセンター層を適用することで、画像品質がさらに向上し、本手法の柔軟性とアーキテクチャ的拡張の可能性を示している。