[論文レビュー] Composition of Probability Measures on Finite Spaces

Radim Jiroušek|arXiv (Cornell University)|Feb 6, 2013

Bayesian Modeling and Causal Inference参考文献 8被引用数 34

ひとこと要約

本稿は、有限空間上の確率測度を合成演算子を用いて合成するための形式的枠組みを提示し、オリゴ次元的測度の系列に注目する。『完全な系列』—合成演算子の順序を入れ替え可能であるような系列—が、分解可能モデルおよびベイジアンネットワークにおける計算の効率性の中心的役割を果たす。この完全な系列の概念により、さまざまなグラフィカルモデルが共通の代数的構造を通じて統一的に取り扱えるようになる。

ABSTRACT

Decomposable models and Bayesian networks can be defined as sequences of oligo-dimensional probability measures connected with operators of composition. The preliminary results suggest that the probabilistic models allowing for effective computational procedures are represented by sequences possessing a special property; we shall call them perfect sequences. The paper lays down the elementary foundation necessary for further study of iterative application of operators of composition. We believe to develop a technique describing several graph models in a unifying way. We are convinced that practically all theoretical results and procedures connected with decomposable models and Bayesian networks can be translated into the terminology introduced in this paper. For example, complexity of computational procedures in these models is closely dependent on possibility to change the ordering of oligo-dimensional measures defining the model. Therefore, in this paper, lot of attention is paid to possibility to change ordering of the operators of composition.

研究の動機と目的

• 反復的合成演算子を用いた、有限空間上の確率測度の合成のための基礎的枠組みを確立すること。
• 合成演算子の順序を変更しても結果の測度に影響を及ぼさない条件を同定し、計算の効率性を実現すること。
• 系列の性質に基づく共通の代数的構造を通じて、分解可能モデルとベイジアンネットワークの取り扱いを統一すること。
• 演算子の再順序付けを通じて、確率的グラフィカルモデルにおける計算複雑性の理論的基盤を解明すること。
• 既存のベイジアンネットワークおよび分解可能モデルの結果を、新しい統一的形式的体系に翻訳する基盤を築くこと。

提案手法

• 合成演算子を介して接続されたオリゴ次元的測度の系列として、確率測度の合成を定義する。
• 結果の測度が再順序付けによっても不変となるような『完全な系列』—合成演算子の系列—の概念を導入する。
• 再順序付けが許容可能でかつ計算的に有益である条件を特定するため、合成演算子の代数的性質を分析する。
• 有限空間の構造を用いて合成プロセスを形式化し、再順序付けにおける閉包性を導出する。
• 分解可能なグラフィカルモデルおよびベイジアンネットワークを、合成された測度の系列としてモデル化する。
• これらのモデルにおける計算複雑性が、合成演算子の再順序付けの可能性と直接関連していることを示す。

実験結果

リサーチクエスチョン

• RQ1 合成演算子の順序を変更しても結果の測度が変わらないための条件は何か？
• RQ2 有限確率空間の文脈において、『完全な系列』を形式的に定義し、特徴づける方法は何か？
• RQ3 確率測度の合成が、分解可能モデルとベイジアンネットワークの取り扱いをどのように統一できるか？
• RQ4 合成演算子のどの代数的性質が、確率的推論の計算効率を支配するか？
• RQ5 既存のベイジアンネットワークおよび分解可能モデルの結果を、この新しい合成的枠組みにどのように再定式化できるか？

主な発見

• 結果の測度が再順序付けによっても不変となる『完全な系列』—合成演算子の順序を入れ替え可能であるような系列—が、計算の効率性にとって極めて重要であることが同定された。
• 合成演算子の再順序付けが可能であるかどうかは、確率的モデルにおける推論の計算複雑性と直接関連している。
• 本フレームワークは、分解可能モデルとベイジアンネットワークの統一的代数的言語を提供し、既存の理論的結果の翻訳を可能にする。
• 本稿は、有限確率空間の構造が、演算子を介した測度の明確で取り扱いやすい合成を可能にすると確立した。
• 結果として、分解可能モデルおよびベイジアンネットワークにおけるすべての理論的およびアルゴリズム的手法が、この合成的枠組み内に再定式化可能であることが示唆された。
• 本研究は、これらのモデルにおけるコアな計算的利点が、再順序付け可能な完全な合成演算子の系列の存在に起因することを確認した。