[論文レビュー] NODAGS-Flow: Nonlinear Cyclic Causal Structure Learning

Muralikrishnna G. Sethuraman, Romain Lopez+4 more|arXiv (Cornell University)|Jan 4, 2023

Single-cell and spatial transcriptomicsBiochemistry, Genetics and Molecular Biology被引用数 3

ひとこと要約

NODAGS-Flow は、システムを離散的力学系としてモデル化し、収縮性残差正規化フローを用いて直接尤度最適化を可能にする、非線形な循環的因果グラフィカルモデルを干渉データから学習するための新しいフレームワークである。合成データおよびリアルワールドの単細胞干渉データの両方において、構造回復と予測性能の両面で最先端の手法を上回り、特に非線形かつ循環的な設定で顕著な優位性を示す。

ABSTRACT

Learning causal relationships between variables is a well-studied problem in statistics, with many important applications in science. However, modeling real-world systems remain challenging, as most existing algorithms assume that the underlying causal graph is acyclic. While this is a convenient framework for developing theoretical developments about causal reasoning and inference, the underlying modeling assumption is likely to be violated in real systems, because feedback loops are common (e.g., in biological systems). Although a few methods search for cyclic causal models, they usually rely on some form of linearity, which is also limiting, or lack a clear underlying probabilistic model. In this work, we propose a novel framework for learning nonlinear cyclic causal graphical models from interventional data, called NODAGS-Flow. We perform inference via direct likelihood optimization, employing techniques from residual normalizing flows for likelihood estimation. Through synthetic experiments and an application to single-cell high-content perturbation screening data, we show significant performance improvements with our approach compared to state-of-the-art methods with respect to structure recovery and predictive performance.

研究の動機と目的

• 既存の因果構造学習手法が非循環的因果グラフを仮定しているという制限に対処すること。これは、遺伝子調節ネットワークのような現実世界のシステムに一般的に見られるフィードバックループを捉えきれないことがある。
• 非循環性制約に依存せずに、非線形かつ循環的な因果関係を、干渉データからスケーラブルかつ微分可能なフレームワークとして学習するための手法を開発すること。
• フィードバックループが存在し、非線形な関数的関係が見られる状況において、正確な構造回復と予測性能を実現すること。
• 干渉の種別に基づくデータサブセット選択を必要とせず、観測データと干渉データの両方を統合的に扱える包括的なアプローチを提供すること。
• 高スループットの単細胞干渉データ（例：Perturb-CITE-seq）を用いて、遺伝子調節ネットワークの予測モデリングを改善すること。

提案手法

• 観測変数を離散的力学系の定常状態としてモデル化することで、潜在的な因果グラフに循環を許容する。
• システムの定常状態解を用いてデータの尤度を定式化し、直接尤度最適化を可能にする。
• 収縮性残差正規化フローを用いて、非線形関数的関係を効率的に推定し、勾配を逆伝播可能にする。
• 非循環的グラフ（DAG）の組み合わせ的探索を避けるために、連続的最適化フレームワークを用い、循環系の構造的制約を暗黙的に満たす。
• 勾配降下法を用いて干渉データ上でエンドツーエンドに訓練可能であり、観測データおよび干渉固有のデータの両方を処理できる。
• 因果グラフと非線形関数を同時に推定することで、構造学習と予測モデリングの両方を統合的に実現する。

Figure 1: Performance on synthetic interventional data. The box plots show the median and inter-quartile ranges over the independent trails.

実験結果

リサーチクエスチョン

• RQ1 非循環性を強制しないで、尤度ベースのフレームワークが非線形な循環的因果構造を効果的に学習できるか。
• RQ2 非線形的および循環的な依存関係下で、NODAGS-Flow の因果グラフ回復性能は最先端の手法と比べてどのように異なるか。
• RQ3 DAGベースや線形循環モデルと比較して、NODAGS-Flow は未観測の干渉に対してより優れた予測性能を達成できるか。
• RQ4 因果モデルに循環を組み込むことで、リアルワールドの単細胞干渉データにおける予測精度が向上するか。
• RQ5 特に高次元設定において、異なる数の干渉に対して NODAGS-Flow はどれほど頑健か。

主な発見

• 非線形関数的関係を有する合成データにおいて、NODAGS-Flow は LLC など最先端の手法を著しく上回り、特に循環的設定での構造回復性能に優れた。
• 干渉がたった 4 つしかない 10 ノードの非線形循環グラフにおいても、NODAGS-Flow はほぼ完璧な構造回復を達成した。これに対して LLC はより多くの干渉を必要とし、純粋な観測データには対応できなかった。
• 61 個の遺伝子を含むリアルワールドの Perturb-CITE-seq データにおいて、NODAGS-Flow は最小の干渉的負の対数尤度（I-NLL）と干渉的平均絶対誤差（I-MAE）を達成し、すべてのベースラインを上回った。
• 未観測の干渉に対する予測性能が優れており、複雑な生物学的系における一般化性能の向上に循環をモデル化することが寄与していることが示された。
• NODAGS-Flow は単細胞トランスクリプトミクスデータから生物学的に解釈可能な遺伝子調節ネットワークを学習し、隣接行列にクラスタ構造を明らかにした。
• フレームワークはデータタイプに対して頑健であり、干渉タイプに基づくデータ分割を必要とせず、観測データと干渉データの両方を処理できた。

Figure 2: Performance on synthetic observational data. The box plots show the median and inter-quartile ranges over the independent trails.