[論文レビュー] Stopping Criteria in Contrastive Divergence: Alternatives to the Reconstruction Error

David Buchaca, Enrique Romero+2 more|arXiv (Cornell University)|Dec 20, 2013

Generative Adversarial Networks and Image Synthesis参考文献 17被引用数 5

ひとこと要約

本稿では、可視単位および隠れ単位の状態に関する確率の比に基づき、制限ボルツマンマシン（RBMs）におけるコントラストダイバージェンス（CD）学習のための2つの新しい停止基準を提案する。再構成誤差とは異なり、真の対数尤度の低下を検出できないことがよくあるが、逆転した隠れユニットを用いる方が優れた基準であり、追加の計算コストなしに真の対数尤度ピークを正確に追跡でき、早期停止において再構成誤差を上回り、より速く信頼性の高い学習収束を実現する。

ABSTRACT

Restricted Boltzmann Machines (RBMs) are general unsupervised learning devices to ascertain generative models of data distributions. RBMs are often trained using the Contrastive Divergence learning algorithm (CD), an approximation to the gradient of the data log-likelihood. A simple reconstruction error is often used to decide whether the approximation provided by the CD algorithm is good enough, though several authors (Schulz et al., 2010; Fischer & Igel, 2010) have raised doubts concerning the feasibility of this procedure. However, not many alternatives to the reconstruction error have been used in the literature. In this manuscript we investigate simple alternatives to the reconstruction error in order to detect as soon as possible the decrease in the log-likelihood during learning.

研究の動機と目的

• CD学習における再構成誤差が停止基準として信頼できない問題に対処すること。
• 実際の対数尤度の挙動をよりよく反映する、計算的に効率的な代替指標を開発すること。
• 尤度低下の兆候を、それが逆転不能になる前に検出できる停止信号を同定すること。
• 確率に基づく推定器が、最適な学習点を検出する際に再構成誤差を上回るかを評価すること。
• 提案された基準が、さまざまなCDバージョンおよび学習設定において、頑健性と一般化性能を示すかを評価すること。

提案手法

• 可視単位が1である確率P(visible=1 | hidden=1)とP(visible=1 | hidden=0)の比に基づく2つの推定器を提案する。
• これらの確率の比を、分配関数の計算を避けるために、対数尤度の変化の代理として用いる。
• CD学習中にこれらの推定器を適用し、追加のサンプリングを伴わずに、リアルタイムでモデル品質をモニタリングする。
• 各学習ステップで、確率を効率的に推定するためにギブスサンプリングを用いる。
• 合成データおよびベンチマークデータセット（BSおよびLSE問題）において、推定器と再構成誤差および対数尤度の性能を比較する。
• CD1およびCD10を用いて、異なるマルコフ連鎖の混合時間における一般化性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 確率に基づく推定器は、再構成誤差よりも、RBMsの学習中に対数尤度ピークをより信頼性高く検出できるか？
• RQ2 隠れユニットをその補数（1-h）に置き換えることで、停止基準の尤度変化への感受性が向上するか？
• RQ3 提案された推定器は、さまざまなCD近似（例：CD1対CD10）においてどのように性能を発揮するか？
• RQ4 新しい基準は、再構成誤差よりも早期に停止することで、過学習や発散を防げるか？
• RQ5 既存の代替手法（例：AIS）と比較して、提案手法は計算的に実行可能でスケーラブルか？

主な発見

• 逆転した隠れユニット（1-h）を用いた提案推定器は、複数の実験において、再構成誤差よりも対数尤度ピークを早期かつ正確に検出する。
• 再構成誤差は一貫して平板化するが、これは真の対数尤度の挙動とほとんど関係がなく、信頼できる停止信号とはなりえない。
• より優れた推定器（ii）は、さまざまな学習率および重み減衰値において頑健であり、尤度変化への感受性を維持する。
• CD10では、提案推定器および再構成誤差の両方が尤度ピークを検出できないことが示され、この指標における長時間のマルコフ連鎖サンプリングの限界を示唆する。
• 提案手法により、モデル品質を損なわずに早期に停止でき、中程度のnを用いた標準的なCDn学習と同等の結果が得られる。
• 新しい基準で停止したRBMsから生成された視覚的サンプルは、訓練データと類似しており、モデルの忠実性が確認された。