[論文レビュー] Algebraic Equivalence of Linear Structural Equation Models

Thijs van Ommen, Joris M. Mooij|arXiv (Cornell University)|Jul 10, 2018

Bayesian Modeling and Causal Inference参考文献 14被引用数 7

ひとこと要約

本稿では、線形構造方程式モデル（SEM）におけるモデル同等性の洗練された概念として代数的同等性を導入し、共分散に同一の多項式等式制約を課すモデルを特定することで、より正確な因果発見を可能にする。半トレック基準を用いて、代数的同等性を効率的に同定する手法を開発し、実験により、これらの制約を組み込むことで、特にY構造の検出において再現率を落とさずにモデル選択の正確性が向上することを示した。

ABSTRACT

Despite their popularity, many questions about the algebraic constraints imposed by linear structural equation models remain open problems. For causal discovery, two of these problems are especially important: the enumeration of the constraints imposed by a model, and deciding whether two graphs define the same statistical model. We show how the half-trek criterion can be used to make progress in both of these problems. We apply our theoretical results to a small-scale model selection problem, and find that taking the additional algebraic constraints into account may lead to significant improvements in model selection accuracy.

研究の動機と目的

• 線形SEMにおける代数的制約（共分散の等式制約）を体系的に列挙する手法の欠如に対処すること。
• 観測データ下で2つの混合グラフが同一の統計モデルを定義するかどうかを特定する課題を解決すること。
• 条件付き独立性を超える等式制約を考慮する、Markov同等性よりも細かく分類された同等性概念を導入することで、因果発見を改善すること。
• 代数的同等性の実用的利点が、特にMarkov同等だが代数的同等でないモデルを区別できる点で、モデル選択に与える影響を示すこと。
• 代数的制約を組み込むことで、観測データにおけるY構造のような構造的特徴の検出精度が向上することを示すこと。

提案手法

• 線形SEM間の新たな同等関係として代数的同等性を提案し、共分散行列に同一の多項式等式制約を課すことで定義する。
• 半トレック基準を応用し、与えられた混合グラフ（潜在的交絡要因や有向サイクルを含む）が課す代数的制約を効率的に同定・検証する。
• 代数的幾何の概念（Zariski閉包）を用いて、代数的制約が一致する場合に統計モデルが同等であると形式化する。
• 代数的同等クラスを用いた候補モデルのフィルタリングを組み込んだ、制約ベースおよびスコアベースのモデル選択手法を採用する。
• モデル選択におけるフィルタリング手順を導入し、スコアが最も高いモデルが期待されるクラス（例：Y構造）と一致するかをチェックすることで、精度を向上させる。
• 代数的同等クラスに異なるスケルトンを持つグラフが含まれ得ることを活用し、最適化に失敗した場合（例：RICF収束問題）に、より数値安定性の高い代表グラフに切り替えることで、モデル選択の実用性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 与えられた混合グラフを持つ線形SEMが課す代数的制約（共分散の多項式等式制約）を体系的に列挙することは可能か？
• RQ2 2つの混合グラフが、観測可能な共分散制約の観点から同一の統計モデルを定義するかどうかをどのように特定できるか？
• RQ3 Markov同等性を超えて代数的同等性を組み込むことで、観測データからの因果構造学習の正確性はどの程度向上するか？
• RQ4 代数的同等性は、尤度に基づく手法における最適化失敗などの実用的問題を解決するために利用可能か？
• RQ5 代数的同等性によるフィルタリングは、高次元データにおけるY構造のような特定の構造的パターンの検出精度にどのように影響するか？

主な発見

• 半トレック基準により、図1に示すグラフの非独立制約など、代数的制約を効率的に同定できる。
• 代数的同等性により、Markov同等だが等式制約が異なるモデルを区別できる。例えば、図1のグラフは4ノードの飽和モデルとは代数的同等でない。
• 代数的同等クラスを用いた候補モデルのフィルタリングにより、全テスト次元（p=10,30,50）においてY構造検出の精度が最大0.1向上した。特にY構造と拡張Y構造を同時に検出する際の向上が顕著であった。
• フィルタリング手順により再現率が高く維持され、全次元で少なくとも98％の真正陽性が保持された。感度へのコストは最小限に抑えられた。
• くびれ付きのモデルでは、RICF（正則化最大尤度推定）が収束しないことが頻発したが、代数的同等性により、同じクラス内での異なるスケルトンに切り替えることができ、数値的安定性が向上した。
• 代数的同等クラスには異なるスケルトンを持つグラフが含まれ得るため、最適化失敗を回避する実用的なモデル選択戦略が可能となり、数値的に有利な代表グラフを選択できる。