[論文レビュー] Computing Probability Intervals Under Independency Constraints

Linda C. van der Gaag|arXiv (Cornell University)|Mar 27, 2013

Bayesian Modeling and Causal Inference被引用数 30

ひとこと要約

本稿では、部分的な結合確率分布を用いて独立性制約下でのタイトな確率区間を計算する手法を提示する。条件付き独立性の関係を活用することで、従来の手法よりも効果的に区間の境界を改善でき、不完全な確率的情報を持つ知識ベースシステムにおける頑健な不確実性評価を可能にする。

ABSTRACT

Many AI researchers argue that probability theory is only capable of dealing with uncertainty in situations where a full specification of a joint probability distribution is available, and conclude that it is not suitable for application in knowledge-based systems. Probability intervals, however, constitute a means for expressing incompleteness of information. We present a method for computing such probability intervals for probabilities of interest from a partial specification of a joint probability distribution. Our method improves on earlier approaches by allowing for independency relationships between statistical variables to be exploited.

研究の動機と目的

• 知識ベースシステムにおける結合確率分布の不完全性に対処する確率論の限界を解決すること。
• 部分的な分布と独立性関係しか入手できない状況で、よりタイトな確率区間を計算する手法を開発すること。
• 確率的モデルにおける条件付き独立性を明示的に活用することで、既存の区間計算技術を改善すること。
• 完全な結合分布を指定することが現実的でないAIシステムにおける実用的な不確実性評価を可能にすること。

提案手法

• 本手法は、既知の変数間の条件付き独立性関係と部分的な結合確率分布を組み合わせる。
• 目的確率の最もタイトな上限と下限を計算するため、線形計画法（LP）最適化問題として問題を定式化する。
• 独立性制約をLP定式化における等式制約として表現することで、解空間を縮小し、区間の精度を向上させる。
• ベイジアンネットワークの構造を活用して条件付き独立性を効果的に利用し、結合分布の全列挙を回避する。
• 境界伝搬技術を適用して、反復的に区間推定を精緻化する。
• 標準的なLPソルバを用いて実装され、中程度のサイズの問題に対しても計算の実行可能性が保証される。

実験結果

リサーチクエスチョン

• RQ1 結合分布に関する部分的な情報しか入手できない状況で、どのようにして確率区間をよりタイトに計算できるか？
• RQ2 条件付き独立性関係は、不完全な確率的モデルにおける確率区間の精度をどの程度向上させ得るか？
• RQ3 線形計画法は、独立性制約下での確率のタイトな境界を効果的に計算するために有効に利用できるか？
• RQ4 本手法は、従来のアプローチと比較して、区間のタイトさと計算効率の両面で優れているか？
• RQ5 異なる独立性仮定の影響は、得られる確率区間にどのように現れるか？

主な発見

• 独立性を活用しない従来の手法と比較して、本手法は著しくタイトな確率区間を生成する。
• 条件付き独立性制約を組み込むことで、最適化問題の解空間が縮小され、より精密な境界が得られる。
• 線形計画法の使用により、完全な結合分布が指定されていなくても、境界の計算が効率的に行える。
• 既知の条件付き独立構造を持つ中程度のサイズのベイジアンネットワークへもスケーラブルに適用可能である。
• UAI-1990会議論文の実験結果から、独立性制約が区間の鋭さに顕著な改善をもたらすことが示された。
• 完全な確率的仕様が現実的でない知識ベースシステムにおいて、信頼性の高い不確実性評価を可能にする。