[論文レビュー] Causal structure learning from time series: Large regression coefficients may predict causal links better in practice than small p-values

Sebastian Weichwald, Martin Emil Jakobsen+4 more|arXiv (Cornell University)|Feb 21, 2020

Bayesian Modeling and Causal Inference参考文献 20被引用数 8

ひとこと要約

本論文は、時間系列データからの因果構造学習に対して、p値ベースの従来手法を凌駕する単純で効果的なアプローチを提示している。この手法は、エッジスコアリングにp値ではなく、原始的な回帰係数を用いる。線形モデルを非線形システムに適用し、自然スケールを保ったままのデータにおいて、大きな回帰係数がp値よりも因果的関係をより信頼性高く予測することを示しており、因果発見における一般的な正規化手法の実効性に疑問を呈している。

ABSTRACT

In this article, we describe the algorithms for causal structure learning from time series data that won the Causality 4 Climate competition at the Conference on Neural Information Processing Systems 2019 (NeurIPS). We examine how our combination of established ideas achieves competitive performance on semi-realistic and realistic time series data exhibiting common challenges in real-world Earth sciences data. In particular, we discuss a) a rationale for leveraging linear methods to identify causal links in non-linear systems, b) a simulation-backed explanation as to why large regression coefficients may predict causal links better in practice than small p-values and thus why normalising the data may sometimes hinder causal structure learning. For benchmark usage, we detail the algorithms here and provide implementations at https://github.com/sweichwald/tidybench . We propose the presented competition-proven methods for baseline benchmark comparisons to guide the development of novel algorithms for structure learning from time series.

研究の動機と目的

• 実世界および準現実的気象データにおいても良好に動作する、強固で計算的に効率的な時間系列データからの因果構造学習手法の開発。
• 従来のp値ベースの推論が、実用的因果発見タスクにおいて、原始的回帰係数に比べて性能を発揮しない理由の解明。
• データ正規化が因果構造学習において常に有益であるという仮定に疑問を呈し、意味のある自然スケールを持つシステムにおいて特にその妥当性を検証。
• 今後の時間系列因果発見分野の研究における、実用的で解釈可能かつ競争力のあるベースライン手法の提供。

提案手法

• 時間系列変数間の回帰係数を推定するために、ベクトル自己回帰モデルを用いる。
• エッジスコアは、原始的回帰係数の絶対値（|b̂i→j|）を用い、p値やt統計量を用いない。
• 自然スケール情報を保持するため、データの標準化を回避する。これは因果的順序を特定する上で情報として有用である。
• 異なる周辺分散を想定したシミュレーションスタディを実施し、回帰係数とt統計量が因果的関係を予測する性能を比較。
• Causality 4 Climate 競争データセットを用いて手法の妥当性を検証し、CauseMe.netベンチマークプラットフォームに統合。
• github.com/sweichwald/tidybench で公開されている軽量でオープンソースのパッケージとして実装。

実験結果

リサーチクエスチョン

• RQ1 なぜ実世界の時間系列データにおいて、小さなp値よりも大きな回帰係数が因果的関係をより効果的に予測するのか？
• RQ2 どのような状況下でデータ正規化が因果発見手法の性能を低下させるのか？
• RQ3 地球科学分野で一般的な非線形力学的システムにおいて、線形モデルが因果構造を効果的に同定できるか？
• RQ4 時間系列変数の自然スケールが、回帰係数が因果的指標として信頼性を持つ要因にどのように影響するか？
• RQ5 周辺分散と残差分散の両方が、係数ベースとp値ベースのエッジスコアリングの相対的性能にどの程度影響を与えるか？

主な発見

• データの自然スケールを保持した状態で、原始的回帰係数（|b̂i→j|）は、p値やt統計量よりも因果的関係の予測に優れている。特に周辺分散が自然に増加する状況で顕著である。
• 誤差分散が等しいシナリオでは、回帰係数がt統計量よりもAUC（受信者操作特性曲線下の面積）が高くなる。これは、初期順序変数においてt統計量が縮小（shrinkage）するためである。
• 周辺分散を意図的に等しくした場合、回帰係数とt統計量の性能は同等になる。これは、分散スケーリングが性能差の主因であることを裏付けている。
• 周辺分散が減少する状況では、t統計量が回帰係数を上回る。これは、性能の相対的優位性がデータの分散構造に強く依存することを示している。
• 変数に意味のある自然スケールがある場合、正規化は因果発見において逆効果になり得る。なぜなら、因果的順序と相関する分散情報が消失するからである。
• 提案手法は、NeurIPS 2019 Causality 4 Climate 競争の全34課題で競争力のある性能を示し、CauseMe.netベンチマークプラットフォームにおいてハイブリッドおよび現実的データカテゴリでリーダー地位を占めた。