[論文レビュー] Unsuitability of NOTEARS for Causal Graph Discovery

Marcus Kaiser, Maksim Sipos|arXiv (Cornell University)|Apr 12, 2021

Bayesian Modeling and Causal Inference参考文献 19被引用数 7

ひとこと要約

この論文は、観測データからの因果グラフ同定に広く用いられるNOTEARSという手法が、スケール不変性に欠けるため、真の因果関係を同定するのに不適切であることを示している。この手法のエッジ方向は変数のスケーリングに強く依存し、因果構造が同一であっても一貫性のない、信頼性の低いDAG構造を生じる。

ABSTRACT

Causal Discovery methods aim to identify a DAG structure that represents causal relationships from observational data. In this article, we stress that it is important to test such methods for robustness in practical settings. As our main example, we analyze the NOTEARS method, for which we demonstrate a lack of scale-invariance. We show that NOTEARS is a method that aims to identify a parsimonious DAG from the data that explains the residual variance. We conclude that NOTEARS is not suitable for identifying truly causal relationships from the data.

研究の動機と目的

• 実世界の実用的状況における因果グラフ同定のためのNOTEARSのロバスト性を調査すること。
• 観測データにおける変数スケールの違いに起因する、NOTEARSの信頼性を損なう根本的欠陥を特定すること。
• NOTEARSが因果構造を優先するのではなく、単純なモデル適合を重視することで、エッジ方向にバイアスが生じることを示すこと。
• スケール依存性が、データから真の因果関係を回復可能であるという手法の主張を無効にすることを主張すること。

提案手法

• 著者たちは、最小二乗損失にL1正則化を適用し、h(W) = trace(exp(W∘W)) − d = 0 という条件によりDAG制約を課える、制約付き最適化問題としてNOTEARSを分析する。
• 変数スケーリングの感度をテストするために、4つの変数を用いた合成的線形構造方程式モデル（SEM）を用いて評価する。
• 複数回の実行において、スケーリング要因を1から32まで段階的に増加させ、得られたDAG構造を比較して安定性を評価する。
• 分析の結果、真の因果構造が同一であっても、変数のスケーリングに応じて推定されたDAGにおけるエッジ方向が著しく変化することが明らかになった。
• 著者たちは、Frobeniusノルム損失に依存するNOTEARSと、尤度に基づく損失関数を用い、log|det(I−W)|によるソフトなサイクル除去制約を導入するGOLEMなどの代替手法を対比する。
• NOTEARSがFrobeniusノルム損失に依存しているため、変数の分散に感受しやすく、Mahalanobis距離や尤度に基づく損失関数を用いる手法とは対照的であると主張する。

実験結果

リサーチクエスチョン

• RQ1 変数のスケーリングが、NOTEARSによって推定されたDAGにおけるエッジ方向にどのように影響を与えるか？
• RQ2 実世界のデータにおいて、入力変数のスケールの変化に対してNOTEARSはどの程度ロバストか？
• RQ3 因果グラフ同定を目的として設計されているにもかかわらず、なぜNOTEARSは真の因果構造を同定できないのか？
• RQ4 NOTEARSにおけるスケール不変性の欠如は、損失関数と最適化目的関数に起因していると特定できるか？
• RQ5 GOLEMなどの代替手法は、スケール不変性および因果構造回復の観点で、どのように比較されるか？

主な発見

• 1つの変数を32倍にスケーリングすると、NOTEARSはその変数と親ノードの間のエッジ方向を完全に逆転させる。
• この手法のエッジ方向は、分散が大きい変数を説明する傾向に強くバイアスがかかるため、一貫性や信頼性に欠ける因果解釈を生じる。
• NOTEARSはスケール不変性を満たさない。同じ因果構造であっても、変数のスケーリングの仕方によって異なるDAGが得られる。
• この手法の最適化目的関数は、真の因果関係を同定することを目的としておらず、最小二乗法による残差分散の最小化を重視している。
• 同じ真の因果構造であっても、スケーリングされたデータに対して複数回実行すると、異なるDAGが得られるため、データのパrameterizationに極めて感受する。
• 著者たちは、NOTEARSが根本的なスケール依存性を有するため、実世界の因果推論には不適切であると結論づける。