[論文レビュー] Bayesian network structure learning with causal effects in the presence of latent variables

Kiattikun Chobtham, Anthony C. Constantinou|arXiv (Cornell University)|May 29, 2020

Bayesian Modeling and Causal Inference参考文献 15被引用数 7

ひとこと要約

本稿では、因果的不十分性下での有向グラフの推定を改善するため、制約ベース（cFCI）とスコアベース（BIC最適化ヒルクライミング）手法を統合し、Pearlのdo-計算を用いてエッジの向きを決定するハイブリッドベイジアンネットワーク構造学習アルゴリズムCCHMを提案する。この手法は、合成および実世界のガウス型ベイジアンネットワークにおいて、最先端の手法を上回る性能を示し、真の祖先グラフの再構築精度を向上させる。

ABSTRACT

Latent variables may lead to spurious relationships that can be misinterpreted as causal relationships. In Bayesian Networks (BNs), this challenge is known as learning under causal insufficiency. Structure learning algorithms that assume causal insufficiency tend to reconstruct the ancestral graph of a BN, where bi-directed edges represent confounding and directed edges represent direct or ancestral relationships. This paper describes a hybrid structure learning algorithm, called CCHM, which combines the constraint-based part of cFCI with hill-climbing score-based learning. The score-based process incorporates Pearl s do-calculus to measure causal effects and orientate edges that would otherwise remain undirected, under the assumption the BN is a linear Structure Equation Model where data follow a multivariate Gaussian distribution. Experiments based on both randomised and well-known networks show that CCHM improves the state-of-the-art in terms of reconstructing the true ancestral graph.

研究の動機と目的

• 観測されない交絡要因（confounders）が誤った依存関係を生じさせる因果的不十分性の問題に対処すること。
• 潜在変数が存在する状況下で、祖先グラフの再構築精度を向上させるために、制約ベースとスコアベースの学習手法を統合したハイブリッドアルゴリズムを開発すること。
• 標準的な制約ベース手法で向きが不明瞭なエッジの向きを決定するために、Pearlのdo-計算を構造学習に統合すること。
• さまざまな潜在変数の影響レベル下で、ランダムおよび実世界のガウス型ベイジアンネットワークにおけるアルゴリズムの性能を評価すること。

提案手法

• cFCIという制約ベース手法を用いてスケルトンを構築し、v構造と双方向エッジ（confoundingを表す）を同定する。
• ヒルクライミングによるスコアベース探索を実行し、ベイジアン情報量基準（BIC）を最小化することでネットワーク構造を最適化する。
• Pearlのdo-計算を適用して、介入分布を計算し、因果効果を推定することで、通常の制約ベース手法では向きが不明瞭なエッジの向きを決定可能にする。
• 多変量ガウス分布に従うデータを仮定した線形構造方程式モデル（SEM）を前提とする。
• 潜在的交絡要因の存在下でも曇りのないエッジの向きを、do-計算の効果を用いて精査・修正することで、祖先グラフ内の曇りを解消する。
• 複数のネットワークタイプにおいて、構造的ハミング距離（SHD）、精度、再現率、BSFといった標準的指標を用いてアルゴリズムを評価する。

実験結果

リサーチクエスチョン

• RQ1 制約ベースとスコアベースの手法を統合したハイブリッド構造学習アルゴリズムは、因果的不十分性下でも祖先グラフの再構築精度を向上させることができるか？
• RQ2 観測データのみでは方向性が特定できないエッジに対して、Pearlのdo-計算を用いることで、祖先グラフにおけるエッジの向き付けがどの程度有効に機能するか？
• RQ3 do-計算による因果効果推定を統合することで、潜在変数が存在する状況下で、純粋な制約ベースやスコアベース手法よりも性能が向上するか？
• RQ4 有意水準（alpha）などのハイパーパrameterの選択に、結果がどれほど敏感か？

主な発見

• CCHMは、テストした4つの実世界のガウス型ベイジアンネットワークのうち2つで、最小の構造的ハミング距離（SHD）を達成し、優れた再構築精度を示した。
• 実世界のネットワークにおいて、CCHMは全ケーススタディで上位3位以内に安定してランクされ、特にalpha = 0.01の設定で顕著な優位性を示した。
• ハイパーパrameterの変動に対して頑健であることが示され、cFCI や GSPo と比較して、alpha に非常に敏感であった。
• 潜在変数の割合が増加するに従っても、CCHMは安定した性能を維持し、SHDの上昇は弱いにとどまった。これは、交絡要因に対して強い耐性を示している。
• do-計算をスコアベース学習に統合することで、単独の制約ベース手法に比べ、エッジの向き付け精度が向上することが明らかになった。
• CCHMは、GFCI や M3HC、GSPo といった最先端のアルゴリズムを、合成ネットワークおよび実世界のネットワークの両方で上回った。特に、複雑で高次元な状況下で顕著な優位性を示した。