[论文解读] Exploiting Functional Dependence in Bayesian Network Inference

Jifi Vomlel|arXiv (Cornell University)|Dec 12, 2012

Bayesian Modeling and Causal Inference参考文献 15被引用 4

一句话总结

本文提出了一种针对具有函数依赖性的贝叶斯网络的高效推理方法，通过将乘法分解推广至高维势函数的分解，将其转化为更小、更易处理的组件。通过使用最小基表示法转换联合势函数，该方法减少了联结树算法中的团大小，显著提升了推理效率——在计算机自适应测试应用中，其性能优于以往方法。

ABSTRACT

We propose an efficient method for Bayesian network inference in models with functional dependence. We generalize the multiplicative factorization method originally designed by Takikawa and D Ambrosio(1999) FOR models WITH independence OF causal influence.Using a hidden variable, we transform a probability potential INTO a product OF two - dimensional potentials.The multiplicative factorization yields more efficient inference. FOR example, IN junction tree propagation it helps TO avoid large cliques. IN ORDER TO keep potentials small, the number OF states OF the hidden variable should be minimized.We transform this problem INTO a combinatorial problem OF minimal base IN a particular space.We present an example OF a computerized adaptive test, IN which the factorization method IS significantly more efficient than previous inference methods.

研究动机与目标

• 解决标准贝叶斯网络推理在具有函数依赖性的模型中效率低下的问题。
• 降低联结树传播中因大团导致的计算复杂度。
• 开发一种在保持准确性的同时最小化概率势函数大小的方法。
• 在计算机自适应测试等实际应用中展示该方法的优越性。

提出的方法

• 将 Takikawa 和 D’Ambrosio 的乘法分解方法推广，以处理贝叶斯网络中的函数依赖性。
• 通过最小基表示法，将高维势函数转换为二维势函数的乘积。
• 使用组合优化方法寻找能保持原始函数关系的最小基。
• 将该分解方法应用于联结树推理，以避免形成大团。
• 在减小隐变量状态空间的同时保持条件独立结构。
• 在计算机自适应测试模型中实现该方法，以评估性能提升。

实验结果

研究问题

• RQ1 贝叶斯网络中的函数依赖性是否可被利用以减小概率势函数的大小？
• RQ2 使用最小基的乘法分解在联结树算法中如何提升推理效率？
• RQ3 该方法在具有函数依赖性的模型中，相较于传统推理技术，优越程度如何？
• RQ4 该方法能否有效应用于计算机自适应测试等实际问题？

主要发现

• 所提出的方法通过将势函数分解为二维组件，显著减小了概率势函数的大小。
• 使用最小基表示法可在不损失准确性的前提下确保计算效率。
• 联结树推理因团变小而受益，实现更快的传播速度并减少内存使用。
• 在计算机自适应测试应用中，该方法相较于以往推理技术表现出显著的性能提升。