[論文レビュー] Polyhedral aspects of score equivalence in Bayesian network structure learning

James Cussens, David Haws+1 more|arXiv (Cornell University)|Mar 3, 2015

Bayesian Modeling and Causal Inference参考文献 29被引用数 27

ひとこと要約

本稿は、家族変数多面体のスコア同等（SE）面と特徴的インメスト多面体の面の間の一対一対応を確立し、SE面が極端な超モジュラー関数に対応することを示している。SE目的関数を最大化する際、非SE面は安全に省略可能であるが、正確な最適化にはSE面だけでは不十分であり、特徴的インメスト多面体からの制約を含める必要があることを強調している。これは、家族変数モデルにおいて面を形成しない場合でも、特徴的インメスト多面体からの制約が不可欠であることを示している。

ABSTRACT

This paper deals with faces and facets of the family-variable polytope and the characteristic-imset polytope, which are special polytopes used in integer linear programming approaches to statistically learn Bayesian network structure. A common form of linear objectives to be maximized in this area leads to the concept of score equivalence (SE), both for linear objectives and for faces of the family-variable polytope. We characterize the linear space of SE objectives and establish a one-to-one correspondence between SE faces of the family-variable polytope, the faces of the characteristic-imset polytope, and standardized supermodular functions. The characterization of SE facets in terms of extremality of the corresponding supermodular function gives an elegant method to verify whether an inequality is SE-facet-defining for the family-variable polytope. We also show that when maximizing an SE objective one can eliminate linear constraints of the family-variable polytope that correspond to non-SE facets. However, we show that solely considering SE facets is not enough as a counter-example shows; one has to consider the linear inequality constraints that correspond to facets of the characteristic-imset polytope despite the fact that they may not define facets in the family-variable mode.

研究の動機と目的

• ベイジアンネットワーク構造学習の整数線形計画（ILP）の文脈において、スコア同等性（SE）を特徴づけること。
• 家族変数多面体のSE面と特徴的インメスト多面体の面の間の一対一対応を確立すること。
• 家族変数モデルにおいて、SE面だけがSE目的関数の正確な最適化に十分であるかどうかを特定すること。
• 家族変数モデルにおいて面を形成しない場合でも、特徴的インメスト多面体からの制約がILP定式化において果たす役割を明確にすること。
• 対応する超モジュラー関数の極端性を用いて、不等式が家族変数多面体の面を定義するかどうかを検証する手法を提供すること。

提案手法

• 家族変数多面体をDAGコード（ηG）の凸包として定義し、特徴的インメスト多面体を特徴的インメストの凸包として定義する。
• マークフォーク同等性における不変性に基づき、線形目的関数および家族変数多面体の面に対するスコア同等性（SE）の概念を導入する。
• SE目的関数の線形空間を特徴づけ、家族変数多面体のSE面と標準化された超モジュラー集合関数の間の対応を確立する。
• 超モジュラー関数の極端性を用いてSE面を特徴づける：不等式がSE面を定義するための必要十分条件は、対応する超モジュラー関数が極端であることである。
• 一般化されたクラスタ不等式が、対応する超モジュラー関数が極端であることを示すことで、家族変数多面体において面を定義することを証明する。
• 家族変数多面体のSE面と特徴的インメスト多面体の面の間の一対一対応を確立し、特徴的インメスト表現におけるクラスタ不等式の形を導出する。

実験結果

リサーチクエスチョン

• RQ1 ベイジアンネットワーク構造学習におけるどの線形目的関数がスコア同等であり、代数的にどのように特徴づけられるか？
• RQ2 スコア同等性の下で、家族変数多面体の面と特徴的インメスト多面体の面の正確な関係は何か？
• RQ3 家族変数モデルにおいてSE目的関数を最大化する際、非SE面はすべて安全に削除可能か？
• RQ4 家族変数多面体においてSE目的関数を最大化するための実行可能領域を定義するために、SE面だけが十分か？
• RQ5 家族変数モデルにおいて面を形成しない場合でも、特徴的インメスト多面体からの制約が果たす役割は何か？

主な発見

• 家族変数多面体のSE面と特徴的インメスト多面体の面の間には一対一対応が存在し、包含関係が保存される。
• 家族変数多面体のSE面は、1-インメストを含む特徴的インメスト多面体の面に正確に対応する。
• 不等式が家族変数多面体において面を定義するための必要十分条件は、対応する超モジュラー関数が極端であることである。これは、簡潔な検証手法を提供する。
• 一般化されたクラスタ不等式が、対応する極端な超モジュラー関数を用いて、家族変数多面体において面を定義することを証明した。
• 非SE面をすべて削除し、SE面のみを用いても最適解が非実行可能である可能性がある反例を構築した。これにより、特徴的インメスト多面体からの制約が不可欠であることが示された。
• 非負性、修正凸性、SE面制約をすべて満たすが、最適目的値16を超えるベクトルη⋆ = (1+ε)·η†が存在することから、SE面だけでは正確な最適化に不十分であることが証明された。