[論文レビュー] Understanding Minimum Probability Flow for RBMs Under Various Kinds of Dynamics.

Daniel Jiwoong Im, Ethan Buchman+1 more|arXiv (Cornell University)|Dec 1, 2014

Generative Adversarial Networks and Image Synthesis被引用数 2

ひとこと要約

本稿では、さまざまなサンプリングダイナミクス下でのKLダイバージェンスのテイラー展開に基づく取り扱い可能な目的関数を用いて、制限ボルツマンマシン（RBMs）を訓練するための最小確率フロー（MPF）学習の一般化形式を提案する。実験により、MPFは複数のRBMs設定において一貫して対照的勾配（CD）を上回ることが示され、CDよりも理論的裏付けが強く、安定性に優れた代替手法であることが明らかになった。

ABSTRACT

Energy-based models are popular in machine learning due to the elegance of their formulation and their relationship to statistical physics. Among these, the Restricted Boltzmann Machine (RBM), and its staple training algorithm contrastive divergence (CD), have been the prototype for some recent advancements in the unsupervised training of deep neural networks. However, CD has limited theoretical motivation, and can in some cases produce undesirable behavior. Here, we investigate the performance of Minimum Probability Flow (MPF) learning for training RBMs. Unlike CD, with its focus on approximating an intractable partition function via Gibbs sampling, MPF proposes a tractable, consistent, objective function defined in terms of a Taylor expansion of the KL divergence with respect to sampling dynamics. Here we propose a more general form for the sampling dynamics in MPF, and explore the consequences of different choices for these dynamics for training RBMs. Experimental results show MPF outperforming CD for various RBM configurations.

研究の動機と目的

• 制限ボルツマンマシン（RBMs）の学習において、対照的勾配（CD）の理論的裏付けの不足と潜在的な不安定性を是正すること。
• さまざまなサンプリングダイナミクスが最小確率フロー（MPF）学習の性能に与える影響を調査すること。
• 元のフレームワークを越えて、より一般化され、一貫性のあるMPFの定式化を構築すること。
• 多様なRBMsアーキテクチャーやデータ設定において、MPFとCDの間で実験的有効性を比較すること。

提案手法

• 本稿では、MPFにおけるサンプリングダイナミクスを一般化し、確率的過程の柔軟なクラスを導入して確率分布の流れをモデル化する。
• ダイナミクスに関するKLダイバージェンスの一次テイラー展開を用いて、計算が困難な正規化定数を避ける取り扱い可能な目的関数を導出する。
• MPFを連続時間確率フローとして定式化することで、ギブスサンプリングに依存せずに一貫性があり安定したパラメータ更新を可能にする。
• ラングジュアンに類似した、あるいはイェルラー＝マルヤムのスキームなどの異なるダイナミクスの選択が、学習収束性と性能に与える影響を体系的に評価する。
• 学習の安定性と収束性を向上させる一方で、エネルギーに基づくモデルフレームワークとの整合性を維持する。

実験結果

リサーチクエスチョン

• RQ1 サンプリングダイナミクスの選択が、RBMsの学習におけるMPFの性能にどのように影響を与えるか？
• RQ2 一般化されたMPF定式化は、学習安定性とモデル品質の観点から、対照的勾配（CD）を上回ることができるか？
• RQ3 RBMsの文脈において、MPFがCDに対して理論的および実証的優位性を示すのはどのような点か？
• RQ4 一般化されたダイナミクス定式化は、学習目的関数の一貫性と取り扱いやすさをどのように向上させるか？

主な発見

• MPFは、多様なRBMs設定において一貫してCDを上回り、優れた学習安定性と収束性を示した。
• 一般化されたMPF定式化は、理論的裏付けが弱いCDとは異なり、より一貫性があり理論的根拠が強い目的関数を提供した。
• 異なるサンプリングダイナミクスは学習性能に顕著な差をもたらし、特定の選択により収束が速く、尤度推定値も向上した。
• ギブスサンプリングや計算が困難な正規化定数の計算を回避でき、計算的により効率的かつ信頼性が高くなった。