[論文レビュー] A Model Counter's Guide to Probabilistic Systems

Marcell Vazquez-Chanlatte, Markus N. Rabe+1 more|arXiv (Cornell University)|Mar 22, 2019

Bayesian Modeling and Causal Inference参考文献 23被引用数 6

ひとこと要約

本稿では、マルコフ連鎖や有限離散分布などの確率的システムを、不偏コインの投げとブール関数による符号化を通じて、重みなしモデルカウントに帰着させる体系的なフレームワークを提示する。主な貢献は、標準のモデルカウンタを用いた効率的な確率的推論を可能にする、構成的でSATベースのアプローチであり、重み付きモデルカウントとビットベクタ比較（特に符号なし整数の「未満」演算子を用いたもの）との間の新規な同等性を示している。

ABSTRACT

In this paper, we systematize the modeling of probabilistic systems for the purpose of analyzing them with model counting techniques. Starting from unbiased coin flips, we show how to model biased coins, correlated coins, and distributions over finite sets. From there, we continue with modeling sequential systems, such as Markov chains, and revisit the relationship between weighted and unweighted model counting. Thereby, this work provides a conceptual framework for deriving #SAT encodings for probabilistic inference.

研究の動機と目的

• 確率的システムを重みなしモデルカウント問題として体系的にモデル化する手法の開発。
• 重み付きモデルカウントに依存しないことで、SATベースのモデルカウンタを用いた効率的な確率的推論の実現。
• 確率的推論とランダムビット生成技術の間のギャップを、それらをブール回路に符号化することで埋める。
• モデルカウントを保持し、マルコフ連鎖のような順序付きシステムをサポートする、構成的でブール関数中心のフレームワークの提供。
• 標準的なモデルカウントが、レアイベント解析においてモンテカルロ法やBDDベースの手法に代わることを示すこと。

提案手法

• 不偏ランダムビットのストリームにブール述語を適用することで、偏りのあるおよび相関のあるコイン投げをモデル化する。
• ビットベクタ比較（特に符号なし整数の「未満」演算子）を用いて、重みなし符号化により重み付きモデルカウントをシミュレートする。
• 分解（例えば、図6）を用いた順序付き回路の構築により、マルコフ連鎖を時間ステップごとのブール関数として符号化する。
• ランダムビットモデルから導出されたブール回路を用いて、任意の有限離散分布（例：二項分布、Knuth-Yao）を符号化する。
• H^k_nガジェットを用いて整数比較を表現し、重み付きモデルの正確なカウントを重みなしカウントにより実現する。
• 各リテラルの重みをブール関数による偏りのあるコインとしてモデル化することで、リテラル重み付きモデルカウントを重みなしモデルカウントに還元する。

実験結果

リサーチクエスチョン

• RQ1 マルコフ連鎖などの確率的システムを、どのように重みなしモデルカウント問題に符号化できるか？
• RQ2 ブール関数は、複雑な確率的挙動のモデルカウントを合成するために果たす役割は何か？
• RQ3 重み付きから重みなしモデルカウントへの還元を、体系的かつ構成的に実現する方法は何か？
• RQ4 古典的な乱数生成アルゴリズム（例：Knuth-Yao）は、ブール回路として符号化可能か？
• RQ5 不偏コインの投げを原始的要素として用いることで、どのように任意の確率分布を構築できるか？

主な発見

• H^k_nガジェット（正確にk個の充足割り当てをもつ数を数えるもの）は、ビットベクタがk未満である条件と同等であり、モデルカウントと整数比較の直接的な関連を示している。
• 本フレームワークにより、モンテカルロサンプリングやBDDベースの手法を避けることで、稀な事象の正確な確率的推論が可能になる。
• モデルカウントのアプローチは、充足割り当ての数を保持するため、条件付き確率や相関確率をモデル化する際にも正しく保証される。
• Knuth-Yaoアルゴリズムを順序付きブール回路に符号化した例は、古典的確率変数生成手法をSATベースの推論に統合可能であることを示している。
• 「未満」演算子を用いた重み付きから重みなしへの還元は、概念的に単純で、かつ形式的に従来の還元と同等であるが、より構成的かつモジュラーである。
• 本フレームワークにより、ブール回路による二項分布などの分布の自動的かつ効率的な符号化が可能となり、py-aiger-coinsライブラリに実装済みである。