[論文レビュー] A Bayesian Network Scoring Metric That Is Based On Globally Uniform Parameter Priors

Mehmet Kayaalp, Gregory F. Cooper|arXiv (Cornell University)|Dec 12, 2012

Bayesian Modeling and Causal Inference参考文献 9被引用数 31

ひとこと要約

この論文は、ネットワーク構造と整合するすべての連鎖確率分布に、非情報的でグローバルに一様な事前分布を用いるグローバル一様（GU）ベイジアンネットワークスコアリング指標を導入する。GU指標は、BDeu や K2 における一貫性の欠如を解消し、事前分布としてすべての整合的分布が等確率になるように保証することで、ドメイン固有の事前分布が利用できない状況における構造学習のための原理的で妥当なデフォルトを提供する。ただし、一般のネットワークにおける効率的計算は未解決の課題のままである。

ABSTRACT

We introduce a new Bayesian network (BN) scoring metric called the Global Uniform (GU) metric. This metric is based on a particular type of default parameter prior. Such priors may be useful when a BN developer is not willing or able to specify domain-specific parameter priors. The GU parameter prior specifies that every prior joint probability distribution P consistent with a BN structure S is considered to be equally likely. Distribution P is consistent with S if P includes just the set of independence relations defined by S. We show that the GU metric addresses some undesirable behavior of the BDeu and K2 Bayesian network scoring metrics, which also use particular forms of default parameter priors. A closed form formula for computing GU for special classes of BNs is derived. Efficiently computing GU for an arbitrary BN remains an open problem.

研究の動機と目的

• BDeu や K2 といった既存のベイジアンネットワークスコアリング指標が、望ましくない挙動を示すデフォルト事前分布に依存するという限界を是正すること。
• 与えられたネットワーク構造と整合するすべての連鎖確率分布が、事前分布として等確率になるようにスコアリング指標を設計すること。
• ドメイン固有の事前分布が利用できない、あるいは不適切な状況におけるベイジアンネットワーク構造学習のための原理的で非情報的（非偏見的）なデフォルト事前分布を提供すること。
• 特定のクラスのベイジアンネットワークにおいて、GUスコアの閉形式表現を導出すること。
• 任意のベイジアンネットワーク構造へのグローバル一様事前分布の適用に伴う計算上の課題を特定・強調すること。

提案手法

• GU指標は、特定のベイジアンネットワーク構造と整合するすべての連鎖確率分布に、一様事前分布を適用する。
• 整合性は、ネットワーク構造がエンコードする条件付き独立関係の集合によって定義される。
• この指標は、観測データの前段階で、変数の有効なすべての分布が等確率になる非情報的事前分布を用いる。
• 多木構造や制限付きトポロジーを持つネットワークなどの特定クラスのベイジアンネットワークに対して、GUスコアの閉形式式が導出される。
• この方法は、一様事前分布の下でディリクレ型パrameter空間にわたる統合に依存し、この非情報的仮定下での周辺尤度を反映するスコアが得られる。
• BDeu や K2 で見られるパrameter感度やバイアスの問題を回避するため、すべての整合的分布に一様性を保証する。

実験結果

リサーチクエスチョン

• RQ1 デフォルト事前分布を用いる際の BDeu や K2 に内在するバイアスを回避できるように、ベイジアンネットワークスコアリング指標をどのように設計できるか？
• RQ2 「すべてのネットワーク構造と整合する連鎖確率分布が、事前分布として等確率である」という意味は何か？
• RQ3 一様事前分布の下で、特定クラスのベイジアンネットワークに対してスコアリング指標の閉形式表現を導出できるか？
• RQ4 任意のベイジアンネットワーク構造にグローバルに一様な事前分布を適用した場合の計算的影響は何か？
• RQ5 非情報的仮定下での構造学習性能において、GU指標は BDeu や K2 と比べてどのように異なるか？

主な発見

• GU指標は、ベイジアンネットワーク構造と整合するすべての連鎖確率分布に、等しい事前確率を割り当てることで、デフォルト事前分布仮定によるバイアスを排除する。
• GU指標は、BDeu や K2 に知られている問題、例えばパrameter事前分布の選択に敏感であること、非情報的設定下で一貫性のない構造学習挙動を示すことといった点を解消する。
• 多木構造やトポロジー制限付きネットワークなどの特定クラスのベイジアンネットワークに対して、GUスコアの閉形式式が導出され、これらのケースでは正確な計算が可能になる。
• 理論的利点は明確であるが、任意のベイジアンネットワーク構造に対する GU スコアの効率的計算は、依然として未解決の問題のままである。
• ドメイン固有の事前分布が利用できない、あるいは信頼できない状況において、GU指標は原理的で非情報的な代替スコアリング手法を提供する。
• 将来的な研究の基盤として、理論的に妥当かつ事前分布の指定に強く、かつ堅牢なデフォルトスコアリング指標の開発に貢献する。