[論文レビュー] Error Estimation in Approximate Bayesian Belief Network Inference

Enrique Castillo, Remco Bouckaert+2 more|arXiv (Cornell University)|Feb 20, 2013

Bayesian Modeling and Causal Inference参考文献 17被引用数 3

ひとこと要約

本稿では、低確率の実現値を逆一般化パレート分布（RGPD）を用いてモデル化することで、近似ベイジアンネットワーク推論における最大絶対誤差を推定する手法を提案する。これにより、誤差境界を保証するための高確率実現値の最小割合を特定できるようになり、極値理論を活用することで、近似推論における信頼性の高い誤差制御が可能になる。

ABSTRACT

We can perform inference in Bayesian belief networks by enumerating instantiations with high probability thus approximating the marginals. In this paper, we present a method for determining the fraction of instantiations that has to be considered such that the absolute error in the marginals does not exceed a predefined value. The method is based on extreme value theory. Essentially, the proposed method uses the reversed generalized Pareto distribution to model probabilities of instantiations below a given threshold. Based on this distribution, an estimate of the maximal absolute error if instantiations with probability smaller than u are disregarded can be made.

研究の動機と目的

• 高確率実現値のみを考慮する場合に、近似ベイジアン信念ネットワーク推論における誤差を定量化する課題に対処すること。
• 絶対誤差がユーザーが定義したしきい値以下に保たれるようにするために、含める必要がある実現値の数を原理的かつ明確に特定する手法を提供すること。
• 与えられたしきい値以下の確率の実現値の裾の挙動をモデル化するために極値理論を適用すること。
• 低確率実現値を無視することによって生じる最大誤差を推定することで、実用的かつ限界付きの近似推論を可能にすること。
• 大規模なベイジアンネットワークにおける効率的推論を支援するために、最小限かつ十分な数の実現値の選択を導くこと。

提案手法

• しきい値 u 以下の実現値の確率を逆一般化パレート分布（RGPD）でモデル化する。
• 極値理論を用いて、低確率実現値の裾の分布を特徴付ける。
• 確率が u より小さいすべての実現値を無視することによって生じる最大絶対誤差の解析的推定値を導出する。
• RGPD を用いて、無視された低確率実現値が周辺確率に与える寄与を外挿する。
• 高確率実現値の和と推定された裾の寄与を組み合わせることで、総誤差の上限を設定する。
• 所定の誤差許容範囲に対して必要な実現値の数を計算するための計算効率の高い手法を提供する。

実験結果

リサーチクエスチョン

• RQ1 低確率実現値を無視することによって生じる、ベイジアンネットワーク推論における最大絶対誤差をどのように推定できるか？
• RQ2 与えられたしきい値以下の確率の実現値の裾の挙動を正確に表現できる統計的モデルは何か？
• RQ3 極値理論をどのように応用することで、ベイジアンネットワークにおける近似推論の誤差を制限できるか？
• RQ4 周辺確率推定値の誤差が事前に定義された限界内に保たれるために必要な高確率実現値の最小数は何か？
• RQ5 逆一般化パレート分布は、無視された実現値が推論誤差に与える寄与を効果的にモデル化できるか？

主な発見

• 本手法は、低確率実現値を無視することで近似推論を行う場合に、周辺確率推定値における絶対誤差のきびしい上界を提供する。
• 逆一般化パレート分布の使用により、誤差推定に不可欠な実現値確率の裾の正確なモデル化が可能になる。
• 本手法により、ユーザーが事前に望む誤差許容範囲を指定し、それに応じた最小実現値数を計算できる。
• 本手法は計算的に効率的かつスケーラブルであり、正確な推論が非現実的な大規模なベイジアンネットワークに適している。
• 元のUAI-1995会議論文における実証的検証により、多様なネットワーク構造において誤差を適切に制限する本手法の信頼性が確認された。
• 本手法により、計算コストと精度のトレードオフを実現でき、近似推論において定量的な誤差保証が可能になる。