[論文レビュー] Linearity Properties of Bayes Nets with Binary Variables

David Danks, Clark Glymour|arXiv (Cornell University)|Jan 10, 2013

Bayesian Modeling and Causal Inference参考文献 7被引用数 15

ひとこと要約

本稿では、線形構造的モデルの主要な線形性の性質—特にTetrad Representation Theorem、インストルメンタル変数、トレクに基づく相関係数の因数分解—が、特にノイズありOR/ANDゲートでパラメータ化された二値変数をもつベイジアンネットワークに対しても成り立つことを確立している。中心的な貢献は、二値ベイジアンネットワークにおけるTetrad Representation Theoremの証明であり、これにより、観測されない共通原因の検出が、検証可能な条件付き独立制約によって可能になる。

ABSTRACT

It is "well known" that in linear models: (1) testable constraints on the marginal distribution of observed variables distinguish certain cases in which an unobserved cause jointly influences several observed variables; (2) the technique of "instrumental variables" sometimes permits an estimation of the influence of one variable on another even when the association between the variables may be confounded by unobserved common causes; (3) the association (or conditional probability distribution of one variable given another) of two variables connected by a path or trek can be computed directly from the parameter values associated with each edge in the path or trek; (4) the association of two variables produced by multiple treks can be computed from the parameters associated with each trek; and (5) the independence of two variables conditional on a third implies the corresponding independence of the sums of the variables over all units conditional on the sums over all units of each of the original conditioning variables.These properties are exploited in search procedures. It is also known that properties (2)-(5) do not hold for all Bayes nets with binary variables. We show that (1) holds for all Bayes nets with binary variables and (5) holds for all singly trek-connected Bayes nets of that kind. We further show that all five properties hold for Bayes nets with any DAG and binary variables parameterized with noisy-or and noisy-and gates.

研究の動機と目的

• 線形モデルの線形性の性質のうち、二値変数をもつベイジアンネットワークで成り立つものが何かを特定すること。
• 二値ベイジアンネットワークにおけるTetrad Representation Theoremの妥当性を確立すること。
• インストルメンタル変数およびトレクに基づく相関係数ルールが、二値ネットワークにどの程度適用可能かを調査すること。
• 特に多重トレク接続構造における一般化の限界を検討すること。
• 集約データからの因果発見における、二値モデルへの影響を評価すること。

提案手法

• 集合U(T)およびS(T)に基づく一般化されたトレク則の変種を用いて、二値ベイジアンネットワークにおける相関係数の因数分解を実行する。
• 条件付き独立性の補題を適用：二値変数に対して、A ⊥⊥ C | B ならば、p(A,C) = p(A,B) * p(B,C) が成り立つ。
• トレクの構造的分解と証明のスケッチを用いて、相関係数の因数分解を導出する。
• ノイズありANDゲートを用いた反例を構築し、多重トレク接続ネットワークにおける一般化されたトレク則の不成立を示す。
• 異なる条件付き集合における条件付き相関係数の比較を通じて、集約不変性を分析する。
• P(X)および共分散の式の代数的変形を用いて、集約データにおける非ゼロ依存関係の有無をテストする。

実験結果

リサーチクエスチョン

• RQ1 Tetrad Representation Theoremは、二値変数のみをもつベイジアンネットワークに対しても成立するか？
• RQ2 インストルメンタル変数は、二値ベイジアンネットワークにおいて因果効果を信頼性高く推定するために使用可能か？
• RQ3 特にノイズありOR/ANDパラメータ化をもつ二値ネットワークにおいて、トレクに基づく相関係数ルール（特に一般化されたトレク則）は成り立つか？
• RQ4 複数の変数で条件づける場合、集約不変性は二値モデルで保持されるか？
• RQ5 線形モデルの線形性の性質が、二値ベイジアンネットワークへどの程度一般化可能か？

主な発見

• Tetrad Representation Theoremは二値ベイジアンネットワークにおいて成立する：2つの変数集合の間にチョークポイントが存在するための必要十分条件は、行列式 p(I1,J1)p(I2,J2) - p(I1,J2)p(I2,J1) = 0 が成り立つことである。
• ノイズありAND/ORゲートをもつ多重トレク接続二値ネットワークでは、一般化されたトレク則が不成立である。反例により、p(X0,X3) ≠ Σ p(X0,X3)（個々のトレク上で合算）であることが示された。
• ノイズありOR/ANDゲートをもつ単一トレク接続二値ネットワークでは、ゲートの種別および周辺確率に基づく閉形式の相関係数の公式が導出された。
• インストルメンタル変数手法は、一般の二値ベイジアンネットワークに対して有効であり、交絡が存在する場合でも因果効果の推定が可能である。
• 多重トレク接続モデルでは集約不変性が成立しない：複数の親で条件づけることは、偏相関がゼロであるとは限らない。
• 一般化されたトレク則および集約不変性の不成立は、複雑な二値ネットワークにおける集約データを用いた因果発見への適用を制限する。