[論文レビュー] Driving Markov chain Monte Carlo with a dependent random stream

Iain Murray, Lloyd T. Elliott|arXiv (Cornell University)|Apr 14, 2012

Markov Chains and Monte Carlo Methods参考文献 23被引用数 11

ひとこと要約

この論文は、マルコフ連鎖モンテカルロ（MCMC）アルゴリズムが、疑似乱数や物理的生成されたシーケンスなどの従属する乱数ストリームによって駆動されても、その連鎖の不変分布が損なわれないことを示している。主な貢献は、標準のMCMCサンプラーを変更する一般化された手法であり、駆動用の乱数が従属している場合でも有効であるように保証するもので、ストリームの依存構造や周辺分布の知識を一切必要としない。

ABSTRACT

Markov chain Monte Carlo is a widely-used technique for generating a dependent sequence of samples from complex distributions. Conventionally, these methods require a source of independent random variates. Most implementations use pseudo-random numbers instead because generating true independent variates with a physical system is not straightforward. In this paper we show how to modify some commonly used Markov chains to use a dependent stream of random numbers in place of independent uniform variates. The resulting Markov chains have the correct invariant distribution without requiring detailed knowledge of the stream's dependencies or even its marginal distribution. As a side-effect, sometimes far fewer random numbers are required to obtain accurate results.

研究の動機と目的

• MCMCが正しく動作するためには独立な一様乱数変量が必要であるという一般的な仮定に取り組むこと。
• 疑似乱数やハードウェア生成シーケンスなどの従属する乱数ストリームが、MCMCで信頼性を持って使用可能かどうかを調査すること。
• 駆動用の乱数が従属している場合でも、MCMC連鎖の不変分布が正しく保たれる一般化された手法を開発すること。
• 大規模または並列シミュレーションにおいて、高品質な独立乱数生成器への依存を減らすこと。
• ニューラル実装におけるMCMCの実用的意味および低品質な乱数ソースに対する耐性について探求すること。

提案手法

• 独立な一様変量の代わりに従属する乱数ストリームを用いる標準MCMCアルゴリズムの変換を提案すること。
• 変更されたMCMCカーネルが、乱数ストリーム内の依存構造にかかわらず、目標分布の不変性を保つようにすること。
• 連続的な乱数入力がMCMC連鎖を駆動するモデルを採用し、メトロポリス＝ハスティングス法やギブスサンプリングなどの標準MCMCスキームに適用可能であることを保証すること。
• 乱数ストリームの周辺分布や依存構造の知識が不要であることを示すこと。
• 変更されたMCMCオペレータを他のMCMCステップと安全にインターリーブできるフレームワークを導入し、正しさを維持すること。
• エルゴディシティおよび不変性の議論を通じて理論的裏付けを提供し、ストリームに十分な多様性があれば、連鎖が正しい目標分布に収束することを示すこと。

実験結果

リサーチクエスチョン

• RQ1 従属する乱数ストリームに対して、MCMCサンプラーを正しく保つために変更可能か？
• RQ2 駆動用の乱数が相関的または一様でない場合でも、目標分布を保つMCMCアルゴリズムを構築可能か？
• RQ3 結果として得られるMCMC連鎖が目標分布に対してエルゴディックかつ不変であるための、乱数ストリームの条件は何か？
• RQ4 適切に変更されたアルゴリズムがあれば、決定的または低品質な乱数シーケンスのみでMCMCを実装可能か？
• RQ5 MCMCで偏りを生じさせることなく、乱数ストリームの依存関係をどのように活用または耐容可能か？

主な発見

• MCMCアルゴリズムは、疑似乱数や物理的生成シーケンスなどの従属する乱数ストリームを使用可能であり、正しい不変分布を保つように変更可能である。
• 本手法は、乱数ストリームの依存構造や周辺分布の知識を一切必要としないため、広範に適用可能である。
• 一部のケースでは、正確な結果を得るために必要な乱数の数が著しく減少し、計算コストが削減される。
• 完全にランダムな入力のない決定的MCMC連鎖でさえ、目標分布からの初期化がなされれば、有用なサンプルを生成可能であり、この手法の頑健性を示している。
• 初期状態が目標分布から抽出されている限り、乱数ストリームが敵対的に選ばれても、このアプローチは正しさを保つ。
• フレームワークにより、変更されたMCMCオペレータを他のMCMCステップと安全にインターリーブ可能であり、複雑なサンプリングパイプラインにおけるモジュラーやスケーラブルな設計を支援する。