[論文レビュー] Boltzmann machines and energy-based models

Takayuki Osogami|arXiv (Cornell University)|Aug 20, 2017

Generative Adversarial Networks and Image Synthesis参考文献 60被引用数 9

ひとこと要約

この論文はボルツマン機械とエネルギーに基づくモデルをレビューし、確率的解釈と勾配に基づく学習に焦点を当てる。正確な学習法と近似法（例えばギブスサンプリングやコントラスト的分散）を提示するが、正確な計算の非効率性を強調し、実行可能なエネルギーに基づく代替手法を提唱する。顔検出の実用的応用例を通じて、エネルギーに基づく学習の実際の動作を示している。

ABSTRACT

We review Boltzmann machines and energy-based models. A Boltzmann machine defines a probability distribution over binary-valued patterns. One can learn parameters of a Boltzmann machine via gradient based approaches in a way that log likelihood of data is increased. The gradient and Hessian of a Boltzmann machine admit beautiful mathematical representations, although computing them is in general intractable. This intractability motivates approximate methods, including Gibbs sampler and contrastive divergence, and tractable alternatives, namely energy-based models.

研究の動機と目的

• ボルツマン機械を確率的視点から包括的にレビューし、その数学的構造と学習ダイナミクスに重点を置く。
• ボルツマン機械における正確な最尤学習の非効率性（分割関数のおかげ）と、近似が必要な理由を分析する。
• ギブスサンプリングやコントラスト的分散といった近似学習手法を用いて、ボルツマン機械を効率的に訓練する方法を検討する。
• 実数値データや複雑なデータに対して特に有効な、完全なボルツマン機械の代替手段としてのエネルギーに基づくモデルを提示する。
• 顔検出モデルを用いた構造的エネルギー関数（可視変数、隠れ変数、ラベル変数を含む）を通じて、エネルギーに基づく学習の実用的有用性を示す。

提案手法

• バイナリユニットを用いた確率的グラフィカルモデルとしてボルツマン機械をモデル化し、バイアスとペアワイズ重みを用いてエネルギーを定義する：$ E_{\theta}(\mathbf{x}) = -\mathbf{b}^T\mathbf{x} - \mathbf{x}^T\mathbf{W}\mathbf{x} $。
• ボルツマン分布を用いてバイナリパターン上の確率分布を定義する：$ \mathbb{P}_{\theta}(\mathbf{x}) = \frac{\exp(-E_{\theta}(\mathbf{x}))}{Z} $、ここで$ Z $は分割関数である。
• 期待値と共分散行列を用いて対数尤度の勾配とヘッセ行列を閉形式で導出することで、理論的根拠に基づく学習を可能にする。
• 正確な計算が不可能な場合に勾配を推定するために、ギブスサンプリングとコントラスト的分散による近似学習を導入する。
• 顔検出のための実行可能なエネルギーに基づくモデルを提案し、ハイブリッドエネルギー関数を用いる：$ E_{\theta}(y,\mathbf{z},\mathbf{x}) = y\|G_{\theta}(\mathbf{x}) - F(\mathbf{z})\| + (1-y)T $、ここで$ G_{\theta} $は畳み込みニューラルネットワーク（CNN）であり、$ F $は顔多様体への写像である。
• 顔画像のエネルギーを最小化し、誤って顔と分類される非顔画像をペナルティ化する複合目的関数$ L_{\theta}(\mathcal{D}) $を用いる。ハイパーパrameter $ \kappa $ が二つの項をバランスさせる。

実験結果

リサーチクエスチョン

• RQ1 分割関数の非効率性を考慮しつつ、勾配ベース最適化によってボルツマン機械のパラメータをどのように学習できるか？
• RQ2 ボルツマン機械学習における勾配とヘッセ行列の数学的性質は何か？ これらは効率的最適化をどのように可能にするか？
• RQ3 ギブスサンプリングやコントラスト的分散といった近似手法は、正確な学習の計算的非効率性をどのように緩和するか？
• RQ4 エネルギーに基づくモデルは、顔検出のような実世界のタスクにおいて、完全なボルツマン機械の実行可能な代替手段としてどのように機能するか？
• RQ5 構造的エネルギー関数は、潜在変数と条件付きモデリングを用いた分類にどのように効果的に寄与するか？

主な発見

• ボルツマン機械における対数尤度の勾配とヘッセ行列は、期待値と共分散行列を用いた洗練された数学的表現を備えており、理論的分析を可能にする。
• 分割関数のサイズが$ 2^N $であるため、正確な学習は非効率であり、ギブスサンプリングやコントラスト的分散といった近似手法の導入が不可欠である。
• コントラスト的分散は、正例と負例のフェーズにおけるギブスステップ数を減らすことで、ボルツマン機械の訓練に実用的かつ効率的な近似を提供する。
• エネルギーに基づくモデルは、実数値データや構造的出力を持つ複雑な分布をモデル化する場合に、完全なボルツマン機械のスケーラブルな代替手段を提供する。
• 構造的エネルギー関数を用いた顔検出モデルは、真の顔のエネルギーを最小化し、非顔画像のエネルギーを最大化することで効果的な分類を実現する。目的関数には対照項が含まれる。
• 提案されたエネルギーに基づく目的関数$ L_{\theta}(\mathcal{D}) $は、顔サンプルの適合と非顔画像の除外をうまくバランスさせ、第二項が潜在ポーズの最小エネルギーを用いて誤検出（偽陽性）をペナルティ化する。