[論文レビュー] Identifiability and Consistency of Bayesian Network Structure Learning from Incomplete Data

Tjebbe Bodewes, Marco Scutari|arXiv (Cornell University)|Apr 1, 2020

Bayesian Modeling and Causal Inference被引用数 2

ひとこと要約

本稿は、不完全データからのベイジアンネットワーク構造学習におけるノード平均尤度（NAL）法の一貫性および同定可能性の一般化された十分条件を確立する。本稿はNALの理論的基盤を条件付きガウス型ベイジアンネットワークへと拡張し、このより広いクラスにおいて一貫性およびモデル同定可能性を証明することで、元々Balov (2013) で示された離散BNにとどまらない、より広範な応用可能性を示している。

ABSTRACT

Bayesian network (BN) structure learning from complete data has been extensively studied in the literature. However, fewer theoretical results are available for incomplete data, and most are based on the use of the Expectation-Maximisation (EM) algorithm. Balov (2013) proposed an alternative approach called Node-Average Likelihood (NAL) that is competitive with EM but computationally more efficient; and proved its consistency and model identifiability for discrete BNs. In this paper, we give general sufficient conditions for the consistency of NAL; and we prove consistency and identifiability for conditional Gaussian BNs, which include discrete and Gaussian BNs as special cases. Hence NAL has a wider applicability than originally stated in Balov (2013).

研究の動機と目的

• 不完全データからのベイジアンネットワーク構造学習における理論的保証の欠如に対処すること。
• ノード平均尤度（NAL）法の一貫性および同定可能性の理論的結果を、離散ベイジアンネットワークを超えて拡張すること。
• 不完全データからの学習においてNALの一貫性を保証する一般化された十分条件を確立すること。
• NALが条件付きガウス型ベイジアンネットワーク（離散およびガウス型ネットワークを特殊ケースとして含む）において一貫的かつ同定可能であることを証明すること。

提案手法

• 不完全データからの一貫性構造学習を達成するためのNAL法の一般化された十分条件を導出する。
• 完全データ尤度最大化を必要としないノード単位の尤度平均化を用いるNALアプローチを適用する。
• 欠損データ機構下でのNALスコアの漸近的挙動を分析し、一貫性を確立する。
• 導出された条件下で真のネットワーク構造がNALスコアを一意に最大化することを示すことにより、同定可能性を証明する。
• 条件付きガウス型ベイジアンネットワークへの理論的枠組みの拡張を、指数型分布族の構造を用いて行う。
• 指数型分布族の性質および条件付き独立性を活用し、混合離散-ガウス型ネットワークへの一貫性証明の一般化を実現する。

実験結果

リサーチクエスチョン

• RQ1 不完全データからのベイジアンネットワーク構造学習におけるNAL法の一貫性を保証する一般化された十分条件は何か？
• RQ2 NAL法は条件付きガウス型ベイジアンネットワークにおいて一貫的かつ同定可能か？
• RQ3 NALの理論的保証は、離散ベイジアンネットワークを超えて、混合変数タイプを含むモデルへと拡張可能か？
• RQ4 欠損データ下での理論的一貫性という観点から、NALの構造学習性能はEM法と比べてどうか？
• RQ5 データが不完全な場合に、真のベイジアンネットワーク構造がNALによって一意に回復可能であるための条件は何か？

主な発見

• 本稿は、不完全データからのベイジアンネットワーク構造学習におけるNAL法の一貫性を保証する一般化された十分条件を確立した。
• NALが条件付きガウス型ベイジアンネットワーク（離散およびガウス型BNを特殊ケースとして含む）において一貫的かつ同定可能であることを証明した。
• 理論的結果により、NALの応用範囲は元々Balov (2013) で示された離散BNにとどまらず、より広いモデルクラスへと拡張された。
• 欠損データ機構およびネットワーク構造に関する緩い正則性条件のもとで、NALの一貫性が確立された。
• 同定可能性の結果により、導出された条件下で真のネットワーク構造がNALスコアの唯一の最大化者であることが保証された。
• 研究結果は、NALが理論的に妥当かつ計算的に効率的なEM法の代替手段であることを裏付けた。