[論文レビュー] Minimum Probability Flow Learning

Jascha Sohl‐Dickstein, Peter Battaglino+1 more|arXiv (Cornell University)|Jun 25, 2009

Gaussian Processes and Bayesian Inference参考文献 20被引用数 10

ひとこと要約

この論文は、無限小時間にわたるモデルダイナミクスに従ってデータを進化させた際の、データ分布とその分布との間のKullback–Leibler発散を最小化することにより、計算が困難な正規化定数を回避する新しいパラメータ推定手法であるMinimum Probability Flow (MPF)学習を提案する。MPFはイジングモデルにおいて最先端の性能を達成しており、学習時間を2桁短縮する。また、スコアマッチング、対照的勾配降下法、最小速度学習を統一的に一般化するフレームワークである。

ABSTRACT

Fitting probabilistic models to data is often difficult, due to the general intractability of the partition function and its derivatives. Here we propose a new parameter estimation technique that does not require computing an intractable normalization factor or sampling from the equilibrium distribution of the model. This is achieved by establishing dynamics that would transform the observed data distribution into the model distribution, and then setting as the objective the minimization of the KL divergence between the data distribution and the distribution produced by running the dynamics for an infinitesimal time. Score matching, minimum velocity learning, and certain forms of contrastive divergence are shown to be special cases of this learning technique. We demonstrate parameter estimation in Ising models, deep belief networks and an independent component analysis model of natural scenes. In the Ising model case, current state of the art techniques are outperformed by at least an order of magnitude in learning time, with lower error in recovered coupling parameters.

研究の動機と目的

• 高次元データに対して特に顕著な、確率的モデルフィッティングにおける計算が困難な正規化定数の根本的課題に対処すること。
• モデルの平衡分布からのサンプリングやその正規化定数の計算を回避するパrameter推定手法を開発すること。
• 対照的勾配降下法、スコアマッチング、最小速度学習といった既存手法を、一貫した原理的枠組みの下で統一・一般化すること。
• 深層ベイズネットワークや自然画像のスチューデントt分布の積モデルのような複雑なモデルにおける効率的な学習を可能にすること。
• モデル分布への初期確率フローを最小化することが、最小限の計算コストで正確なパラメータ回復をもたらすことを示すこと。

提案手法

• 任意の初期分布をモデルの平衡分布へと進化させる確率的過程を定義する、ダイナミクスに基づくアプローチを提案する。
• 観測されたデータ分布と、モデルダイナミクスに従って無限小時間進化させた分布との間のKL発散を最小化することを目的とする。
• 時間ゼロにおけるKL発散の変化率として目的関数を導出し、これは初期データ分布と遷移確率にのみ依存する。
• KL発散のテイラー展開を用いて、データ状態から非データ状態への確率フローの初期値を最小化することは、KL発散の増加率を最小化することと同等であることを示す。
• 離散的および連続的状態空間に適用可能であり、目的関数が凸となる指数型分布族モデルに特に焦点を当てる。
• 導出された目的関数に基づく勾配降下法を用いて、イジングモデル、深層ベイズネットワーク、自然画像のスチューデントt分布の積モデルに対して手法を実装する。

実験結果

リサーチクエスチョン

• RQ1 計算が困難な正規化定数の計算や、モデルの平衡分布からのサンプリングを回避して、パラメータ推定が可能か？
• RQ2 確率的モデルのダイナミクスを活用することで、取り扱い可能な学習目的関数を構築できるか？
• RQ3 対照的勾配降下法、スコアマッチング、最小速度学習を統一的に一般化するフレームワークは存在するか？
• RQ4 初期の確率フローを最小化することで、最尤推定と同等の精度のパラメータ回復が達成できるか？
• RQ5 MPF学習は、深層ベイズネットワークや高次元の自然画像モデルのような複雑なモデルへと効率的にスケーリング可能か？

主な発見

• MPF学習は、イジングモデルのパラメータ推定において最先端の性能を達成しており、現在の手法と比較して学習時間を約2桁短縮する。
• 正規化定数の計算を回避しているにもかかわらず、最尤推定と同等の精度でモデルパラメータを回復できる。
• MPFは、対照的勾配降下法、スコアマッチング、最小速度学習を、共通の動的フレームワークの下で特殊ケースとして統一・一般化する。
• 指数型分布族モデルでは、MPFの目的関数は凸であるため、標準的な最適化手順によってグローバル最小値への収束が保証される。
• 深層ベイズネットワークおよび自然画像のスチューデントt分布の積モデルにおいても、パラメータ推定に成功し、複雑で高次元のデータへの広範な適用可能性を示した。
• 理論的解析により、データ状態から非データ状態への確率フローの初期値を最小化することは、KL発散の増加率を最小化することと同等であることが示され、安定的かつ効率的な学習信号が得られることを裏付けた。