[論文レビュー] On Sensitivity of the MAP Bayesian Network Structure to the Equivalent Sample Size Parameter

Tomi Silander, Petri Kontkanen+1 more|arXiv (Cornell University)|Jun 20, 2012

Bayesian Modeling and Causal Inference参考文献 10被引用数 89

ひとこと要約

本論文は、BDeuスコアにおける等価標本サイズ（ESS）パラメータに対する最大後確信度（MAP）ベイジアンネットワーク構造学習の感度を調査する。実験的検証を通じて、ESSの小さな変化が著しく異なるネットワーク構造をもたらすことが示され、構造学習における深刻な不安定性が浮き彫りにされ、信頼性に影響を及ぼし、より良いパラメータ選択戦略の必要性が提起される。

ABSTRACT

BDeu marginal likelihood score is a popular model selection criterion for selecting a Bayesian network structure based on sample data. This non-informative scoring criterion assigns same score for network structures that encode same independence statements. However, before applying the BDeu score, one must determine a single parameter, the equivalent sample size alpha. Unfortunately no generally accepted rule for determining the alpha parameter has been suggested. This is disturbing, since in this paper we show through a series of concrete experiments that the solution of the network structure optimization problem is highly sensitive to the chosen alpha parameter value. Based on these results, we are able to give explanations for how and why this phenomenon happens, and discuss ideas for solving this problem.

研究の動機と目的

• 等価標本サイズ（ESS）パラメータがMAPベイジアンネットワーク構造学習に与える影響を調査すること。
• BDeuスコアがESS値の変化に対してなぜ高感度であるかを特定すること。
• さまざまなESS値の下での構造学習の安定性と信頼性を評価すること。
• この感度の原因を解明し、潜在的な解決策を提示すること。
• ベイジアンネットワーク学習におけるESS選択に関する合意の欠如に取り組むこと。

提案手法

• 複数の実世界および合成データセットにおいて、BDeu周辺尤度スコアを経験的に評価すること。
• 幅広い範囲の値にわたりESSパラメータを体系的に変化させ、学習されたベイジアンネットワークにおける構造的変化を評価すること。
• 異なるESS設定下でBDeuスコアを最大化する構造学習アルゴリズムを用いること。
• 得られたネットワーク構造を分析し、トポロジーおよび条件付き独立構造における顕著な変化を検出すること。
• 統計的および定性的分析を用いて、観察された感度パターンを説明すること。
• ESS値ごとのネットワーク構造を比較し、閾値および不安定化点を同定すること。

実験結果

リサーチクエスチョン

• RQ1 等価標本サイズ（ESS）の選択が、学習されたベイジアンネットワークの構造にどのように影響するか？
• RQ2 なぜBDeuスコアはESSの小さな変化に対して極めて多様なネットワーク構造を生成するのか？
• RQ3 安定または不安定なネットワーク構造をもたらすESSの識別可能なパターンや閾値は存在するか？
• RQ4 ESS感度がMAPベイジアンネットワーク構造学習の信頼性をどの程度損なうのか？
• RQ5 ESSの変動に起因する構造学習の観察された不安定性の背後にある根本的要因は何か？

主な発見

• 学習されたベイジアンネットワーク構造は、等価標本サイズ（ESS）パラメータの小さな変化に対して極めて感受している。
• 同じデータセットとスコア関数であっても、異なるESS値が質的に異なるネットワーク構造をもたらすことがある。
• 感度は特にスパースなネットワークおよび限られたデータ量の状況で顕著に現れる。
• ESS値の変動におけるBDeuスコアの挙動は、構造選択における不安定性を露呈し、学習モデルへの信頼性を損なう。
• 本研究では、ESSパラメータが事前分布の強度に顕著に影響を与え、データと事前仮定のバランスを歪めることを同定した。
• 結果から、現在のESSを恣意的またはヒューリスティックに選択する慣習は、信頼性の低いネットワーク構造をもたらす可能性があると示唆された。