[论文解读] Sensitivity analysis, multilinearity and beyond

Manuele Leonelli, Christiane Görgen+1 more|arXiv (Cornell University)|Dec 7, 2015

Fault Detection and Control Systems参考文献 39被引用 6

一句话总结

本文通过利用其插值多项式的多重线性结构，提出了一种统一的代数框架，用于离散贝叶斯网络及相关模型的敏感性分析。证明了在多重线性模型中，参数的成比例变化可最小化Chan-Darwiche距离和所有φ-散度，为多参数敏感性分析中广泛使用但此前未经证明的启发式方法提供了理论依据。

ABSTRACT

Sensitivity methods for the analysis of the outputs of discrete Bayesian networks have been extensively studied and implemented in different software packages. These methods usually focus on the study of sensitivity functions and on the impact of a parameter change to the Chan-Darwiche distance. Although not fully recognized, the majority of these results heavily rely on the multilinear structure of atomic probabilities in terms of the conditional probability parameters associated with this type of network. By defining a statistical model through the polynomial expression of its associated defining conditional probabilities, we develop a unifying approach to sensitivity methods applicable to a large suite of models including extensions of Bayesian networks, for instance context-specific and dynamic ones, and chain event graphs. By then focusing on models whose defining polynomial is multilinear, our algebraic approach enables us to prove that the Chan-Darwiche distance is minimized for a certain class of multi-parameter contemporaneous variations when parameters are proportionally covaried.

研究动机与目标

• 开发一个适用于标准贝叶斯网络之外的通用理论框架，用于敏感性分析。
• 解决多参数敏感性分析中成比例参数变化缺乏理论依据的问题。
• 将单因素敏感性方法扩展至上下文特定和动态贝叶斯网络等模型中的完整条件概率表（CPT）分析。
• 通过多项式表示，统一分析广泛模型类中Chan-Darwiche距离和φ-散度的敏感性。
• 为未来在多重线性模型中开展通用多因素敏感性分析研究奠定基础。

提出的方法

• 通过其插值多项式表示统计模型，特别关注原子概率的多重线性形式。
• 利用多项式结构，将敏感性函数和Chan-Darwiche距离的计算推广至标准贝叶斯网络之外。
• 通过成比例协变定义多参数同时变化，即参数按其剩余质量成比例调整。
• 利用插值多项式中的单项式比值，推导出在成比例协变下Chan-Darwiche距离的闭式表达式。
• 证明在多重线性模型中，成比例协变可同时最小化CD距离和所有φ-散度，包括Kullback-Leibler散度。
• 将该框架应用于通过多项式表征，将敏感性分析扩展至动态贝叶斯网络和链事件图。

实验结果

研究问题

• RQ1 是否可以将单因素敏感性分析方法推广至非标准贝叶斯网络模型中的完整CPT分析？
• RQ2 在多重线性模型中，参数的成比例协变是否是最小化Chan-Darwiche距离的最优方案？
• RQ3 在多重线性模型中，成比例协变是否也能最小化φ-散度（包括Kullback-Leibler散度）？
• RQ4 插值多项式表示能否统一上下文特定和动态贝叶斯网络等多样化模型的敏感性分析？
• RQ5 非多重线性结构对多因素敏感性分析及成比例协变最优性有何影响？

主要发现

• 在插值多项式为多重线性的任何模型中，参数的成比例协变可最小化Chan-Darwiche距离。
• 相同的成比例协变方案在多重线性模型中可最小化所有φ-散度，包括Kullback-Leibler散度。
• 在成比例协变下，Chan-Darwiche距离的闭式表达式源自插值多项式中单项式项的比值。
• 该框架可通过多项式表征，将敏感性分析扩展至上下文特定贝叶斯网络和链事件图。
• 该方法为非多重线性模型中的Chan-Darwiche距离计算提供了一种快速计算方法。
• 该结果通过为敏感性分析中成比例协变的广泛应用提供理论依据，解决了长期存在的开放问题。