[论文解读] On Sensitivity of the MAP Bayesian Network Structure to the Equivalent Sample Size Parameter

Tomi Silander, Petri Kontkanen+1 more|arXiv (Cornell University)|Jun 20, 2012

Bayesian Modeling and Causal Inference参考文献 10被引用 89

一句话总结

本文研究了在BDeu评分中，等效样本大小（ESS）参数对最大后验概率（MAP）贝叶斯网络结构学习的敏感性。通过实证实验，表明ESS的微小变化会导致截然不同的网络结构，突显了结构学习中的关键不稳定性，削弱了其可靠性，并呼吁采用更优的参数选择策略。

ABSTRACT

BDeu marginal likelihood score is a popular model selection criterion for selecting a Bayesian network structure based on sample data. This non-informative scoring criterion assigns same score for network structures that encode same independence statements. However, before applying the BDeu score, one must determine a single parameter, the equivalent sample size alpha. Unfortunately no generally accepted rule for determining the alpha parameter has been suggested. This is disturbing, since in this paper we show through a series of concrete experiments that the solution of the network structure optimization problem is highly sensitive to the chosen alpha parameter value. Based on these results, we are able to give explanations for how and why this phenomenon happens, and discuss ideas for solving this problem.

研究动机与目标

• 研究等效样本大小（ESS）参数对MAP贝叶斯网络结构学习的影响。
• 识别BDeu评分对ESS值变化高度敏感的原因。
• 评估在不同ESS值下结构学习的稳定性和可靠性。
• 提供对这种敏感性成因的见解，并提出潜在解决方案。
• 解决贝叶斯网络学习中ESS选择缺乏共识的问题。

提出的方法

• 在多个真实世界和合成数据集上实证评估BDeu边际似然评分。
• 系统性地在广泛范围内改变ESS参数，以评估所学习贝叶斯网络的结构变化。
• 使用在不同ESS设置下最大化BDeu评分的结构学习算法。
• 分析所得网络结构，检测拓扑结构和条件独立性结构的显著变化。
• 应用统计和定性分析以解释观察到的敏感性模式。
• 比较不同ESS值下的网络结构，以识别临界点和不稳定性位置。

实验结果

研究问题

• RQ1 等效样本大小（ESS）的选择如何影响所学习贝叶斯网络的结构？
• RQ2 为何BDeu评分对ESS值的微小变化会产生高度多变的网络结构？
• RQ3 是否存在导致稳定或不稳定网络结构的ESS可识别模式或临界值？
• RQ4 ESS敏感性在多大程度上损害了MAP贝叶斯网络结构学习的可靠性？
• RQ5 ESS变化导致的结构学习不稳定性背后的根本原因是什么？

主要发现

• 所学习的贝叶斯网络结构对等效样本大小（ESS）参数的微小变化极为敏感。
• 不同的ESS值可能导致定性上截然不同的网络结构，即使使用相同的数据集和评分函数。
• 这种敏感性在稀疏网络和数据有限时最为显著。
• ESS值变化下BDeu评分的行为揭示了结构选择的不稳定性，削弱了对所学模型的信心。
• 本研究发现，ESS参数显著影响先验强度，从而破坏了数据与先验假设之间的平衡。
• 结果表明，当前任意或启发式选择ESS的做法可能导致不可靠的网络结构。