[論文レビュー] Learning linear non-Gaussian directed acyclic graph with diverging number of nodes

Ruixuan Zhao, Xin He+1 more|arXiv (Cornell University)|Nov 1, 2021

Bayesian Modeling and Causal Inference参考文献 33被引用数 4

ひとこと要約

本稿では、サンプルサイズに応じて増加するノード数を伴う高次元設定において、線形非ガウス型有向無環グラフ（DAG）を学習する新規で効率的な手法を提案する。トポロジカルレイヤーの枠組みを導入することで、精度行列推定と独立性検定を用いて、正確かつボトムアップにDAG構造を再構築可能となり、忠実性仮定や親の忠実性仮定を必要としない一貫性のある因果構造回復を達成する。

ABSTRACT

Acyclic model, often depicted as a directed acyclic graph (DAG), has been widely employed to represent directional causal relations among collected nodes. In this article, we propose an efficient method to learn linear non-Gaussian DAG in high dimensional cases, where the noises can be of any continuous non-Gaussian distribution. This is in sharp contrast to most existing DAG learning methods assuming Gaussian noise with additional variance assumptions to attain exact DAG recovery. The proposed method leverages a novel concept of topological layer to facilitate the DAG learning. Particularly, we show that the topological layers can be exactly reconstructed in a bottom-up fashion, and the parent-child relations among nodes in each layer can also be consistently established. More importantly, the proposed method does not require the faithfulness or parental faithfulness assumption which has been widely assumed in the literature of DAG learning. Its advantage is also supported by the numerical comparison against some popular competitors in various simulated examples as well as a real application on the global spread of COVID-19.

研究の動機と目的

• サンプルサイズに伴いノード数が増加する高次元線形非ガウス型DAGの学習という課題に対処すること。
• ガウスノイズ、等分散性、または忠実性仮定に依存する既存手法の限界を克服すること。
• 高次元設定における正確なDAG回復のための計算的に効率的なアルゴリズムを開発すること。
• 忠実性仮定を必要としない、トポロジカルレイヤーおよび親子関係の一貫性のある回復に関する理論的保証を提供すること。

提案手法

• ノードを、任意のノードの親がより高いレイヤーに位置するように分割する、新たなトポロジカルレイヤー概念を導入し、構造的サイクルのない性質を構成上保証する。
• 精度行列推定と条件付き独立性検定を用いて、ボトムアップのアプローチでトポロジカルレイヤーを再構築する。
• 推定された精度行列を用いて、各レイヤー内での親子関係を直接同定する。
• スパarsity仮定の下で、高次元精度行列推定にグラフィカル・ラッソを適用する。
• 推定された偏相関に基づいて、エッジ検出を精緻化するためのハードスレッショルド処理を適用する。
• すべての可能なDAGを全探索するのを避けることで、従来の手法と比較して著しく複雑性を低減し、計算効率を確保する。

実験結果

リサーチクエスチョン

• RQ1 高次元設定においてノード数が発散する線形非ガウス型DAGのトポロジカルレイヤーは、正確に再構築可能か？
• RQ2 提案手法は、忠実性または親の忠実性仮定に依存せずに、真のDAG構造を一貫して回復できるか？
• RQ3 精度と計算効率の観点から、既存の最先端DAG学習アルゴリズムと比較して、本手法の性能はどのように異なるか？
• RQ4 複雑な依存関係を示す実世界データ、例えばCOVID-19の世界的な拡散において、因果構造を効果的に回復できるか？
• RQ5 有限サンプルにおけるチューニングパラメータとデータ生成メカニズムの影響は、本手法の性能にどのように現れるか？

主な発見

• 本手法（TL：Topological Layer）は、定理1および系1で示されるように、ノード数が発散する高次元設定において、トポロジカルレイヤーの正確な再構築を達成する。
• 系2で示されるように、推定された精度行列のみを用いて、レイヤー再構築と併せて親子関係も一貫して回復可能である。
• 忠実性仮定や親の忠実性仮定を必要としないため、多数の既存手法よりも緩い統計的条件下でも適用可能である。
• シミュレーション実験では、特に高次元かつスパースな設定において、MDirect や LiNGAM と比較して、構造的ハミング距離およびF1スコアの両面で本手法が優れている。
• 実世界のCOVID-19の世界的な拡散への応用では、99か国の間で736本の有向エッジを同定し、イタリア、イギリス、韓国、米国が主要なハブとして特定された——これは初期の感染拡大パターンと整合的である。
• 本手法の計算複雑性は、指数関数的オーダーの手法と比較して顕著に低く抑えられており、高次元設定におけるスケーラブルな学習を可能にしている。