[論文レビュー] Inference in Polytrees with Sets of Probabilities

José Carlos Ferreira da Rocha, Fabio Gagliardi Cozmanl+1 more|arXiv (Cornell University)|Oct 19, 2012

Bayesian Modeling and Causal Inference参考文献 26被引用数 29

ひとこと要約

本稿では、確率の集合と区間を用いた木構造（p embeds）における確率的推論のための改善アルゴリズムを提案する。TessemのA/Rアルゴリズムの強化版、新たな方向ベースの局所探索、および分枝限定法を導入しており、計算複雑性を顕著に低減し、一部のケースでは10倍以上の高速化を達成するとともに、不確実な確率モデル下でも正確かつ近似推論を可能にする。

ABSTRACT

Inferences in directed acyclic graphs associated with probability sets and probability intervals are NP-hard, even for polytrees. In this paper we focus on such inferences, and propose: 1) a substantial improvement on Tessems A / R algorithm FOR polytrees WITH probability intervals; 2) a new algorithm FOR direction - based local search(IN sets OF probability) that improves ON existing methods; 3) a collection OF branch - AND - bound algorithms that combine the previous techniques.The first two techniques lead TO approximate solutions, WHILE branch - AND - bound procedures can produce either exact OR approximate solutions.We report ON dramatic improvements ON existing techniques FOR inference WITH probability sets AND intervals, IN SOME cases reducing the computational effort BY many orders OF magnitude.

研究の動機と目的

• 確率の集合と区間を用いた有向非巡回グラフにおける推論の計算非効率性に対処すること。
• 不確かな確率モデル下でのp embedsにおける既存の確率的推論アルゴリズムの改善。
• 現実世界の不確実な推論タスクにスケーラブルな効率的手法の開発。
• 計算コストを低減しつつ正確推論と近似推論の両方を可能にすること。
• 先行する最先端技術と比較して顕著な性能向上を実証すること。

提案手法

• 確率区間を扱うp embedsにおけるTessemのA/Rアルゴリズムの強化版を提案し、効率性と収束性を向上。
• 確率集合の空間をより効果的に探索できる新たな方向ベースの局所探索アルゴリズムを導入。
• 改善されたA/Rアルゴリズムと局所探索技術を統合した分枝限定法を構築し、頑健な推論を実現。
• ネットワーク全体における可能な値の境界を維持することで、不確かな確率を扱えるように設計。
• 局所探索ヒューリスティクスとグローバル最適化を組み合わせ、精度と計算コストのバランスを最適化。
• ユーザーが指定した許容誤差に応じて、正確推論と効率的な近似推論の両方をサポートするフレームワークを構築。

実験結果

リサーチクエスチョン

• RQ1 確率の集合を用いたp embedsにおける推論を、従来手法と比較して著しく効率化できるか？
• RQ2 局所探索戦略をどのように不確かな確率の空間に適応させ、ベイジアンネットワークにおける推論を改善できるか？
• RQ3 分枝限定法は不確かな確率的推論において、どの程度計算負荷を低減できるか？
• RQ4 提案手法が実用的な実行時間性能を維持しつつ正確推論を達成できるか？
• RQ5 ベンチマーク問題において、先行手法と比較して計算効率にどの程度の実証的向上が見られるか？

主な発見

• 改善されたA/Rアルゴリズムは、確率区間を用いた推論において顕著な高速化を達成し、元のTessem法を上回る性能を示した。
• 方向ベースの局所探索アルゴリズムは、探索空間の探索量を削減し、不確かな確率推論における収束性を向上させた。
• 新技術を統合した分枝限定法により、正確推論と近似推論の両方が高い効率で実現可能となった。
• 一部のケースでは、先行手法と比較して計算負荷が多数桁単位で低減された。
• 不確かな確率を伴う多様なテスト問題において、強力なスケーラビリティと頑健性を示した。
• 実験的結果から、特に大規模または複雑なp embeds構造において、実行時間性能が顕著に向上した。