[論文レビュー] Fast Scalable and Accurate Discovery of DAGs Using the Best Order Score Search and Grow-Shrink Trees

Bryan Andrews, Joseph Ramsey+3 more|PubMed|Oct 26, 2023

Rough Sets and Fuzzy Logic被引用数 7

ひとこと要約

本稿では、高次元データからの有向無閉路グラフ（DAG）を学習するスケーラブルで正確な手法として、Best Order Score Search（BOSS）とGrow-Shrink Trees（GSTs）を導入する。BOSSは、GSTsからキャッシュされたスコアを用いたグリーディな順列探索を実行し、合成データおよびfMRIデータ（最大1,000変数）において、組合せ的および勾配ベースの手法を上回る、最先端の精度と速度を達成する。

ABSTRACT

Learning graphical conditional independence structures is an important machine learning problem and a cornerstone of causal discovery. However, the accuracy and execution time of learning algorithms generally struggle to scale to problems with hundreds of highly connected variables-for instance, recovering brain networks from fMRI data. We introduce the best order score search (BOSS) and grow-shrink trees (GSTs) for learning directed acyclic graphs (DAGs) in this paradigm. BOSS greedily searches over permutations of variables, using GSTs to construct and score DAGs from permutations. GSTs efficiently cache scores to eliminate redundant calculations. BOSS achieves state-of-the-art performance in accuracy and execution time, comparing favorably to a variety of combinatorial and gradient-based learning algorithms under a broad range of conditions. To demonstrate its practicality, we apply BOSS to two sets of resting-state fMRI data: simulated data with pseudo-empirical noise distributions derived from randomized empirical fMRI cortical signals and clinical data from 3T fMRI scans processed into cortical parcels. BOSS is available for use within the TETRAD project which includes Python and R wrappers.

研究の動機と目的

• fMRI脳ネットワークのような高次元かつ高接続性を示すデータにおいて、既存のDAG構造学習アルゴリズムのスケーラビリティおよび精度の制限を克服すること。
• 順列ベースのDAG学習における重複計算を排除することで、スコア計算の高速化を実現する新規キャッシュ機構、Grow-Shrink Trees（GSTs）の開発。
• GRaSPなどの先行手法に比べ、調整パrameterが少なく、実行時間が短いという点で最先端の性能を達成する新規アルゴリズム、Best Order Score Search（BOSS）の設計。
• 3Tスキャンから得られる実臨床fMRIデータおよび疑似実験的ノイズを含む合成データに対してBOSSを検証し、実用的価値を示すこと。
• TETRADプロジェクト内にオープンソース実装を提供し、PythonおよびR対応により広範な採用を促進すること。

提案手法

• BOSSは、変数の順列を探索することで、最高スコアのDAGを特定するグリーディな探索を実行し、探索をガイドする基準としてBest Order Scoreを用いる。
• Grow-Shrink Trees（GSTs）は、順列処理中の中間スコア計算をキャッシュする新規データ構造であり、順列ベース学習における重複計算を著しく削減する。
• GSTsは、順列を木構造に整理することで、スコアの再利用を可能にし、部分的でない枝のプルーニングを支援する。
• 各順列から導かれるDAGの評価には、BICλおよび∆BICスコアを用い、BICλはスパarsityを重視し、∆BICは相対的なモデル適合度を測定する。
• BOSSはGSTsを統合することで、候補DAGのスコア計算を高速化し、1,000変数および平均次数20の状況でも、探索空間のスケーラブルな探索を可能にする。
• 本手法は漸近的に正しいものであり、スコアベースおよび制約ベースのモデル選択をサポートしており、TETRADに実装済みである。

実験結果

リサーチクエスチョン

• RQ1 順列ベースのDAG学習手法は、最大1,000変数の高密度で高次元なグラフにおいて、高い精度とスケーラビリティを同時に達成できるか？
• RQ2 Grow-Shrink Treesのような新規キャッシュ機構は、精度を損なわず、順列ベースDAG学習の計算コストを顕著に低減できるか？
• RQ3 合成データおよび実fMRIデータにおいて、BOSSはGRaSP、fGES、DAGMA、LiNGAMなどの最先端の組合せ的および勾配ベースの手法と比較して、精度、実行時間、モデル適合度の面で優れているか？
• RQ4 実際の皮質信号から導かれる複雑な疑似実験的ノイズ分布を持つ現実的なfMRIデータにおいて、BOSSは強力な性能を維持できるか？
• RQ5 379個の皮質パラセルに処理された実臨床fMRIデータに対して、BOSSは効率的に適用可能であり、信頼性の高い解釈可能な脳ネットワークの同定を達成できるか？

主な発見

• 合成fMRIデータにおいて、BOSSは平均隣接精度0.99（0.005）および再現率0.94（0.009）を達成し、DAGMA、fGES、LiNGAMを両方の指標で上回った。
• 1,000変数および平均次数20の高次元合成データにおいて、BOSSは599.24秒（±43.804）で完了し、∆BICが29,520.77（±1,101.301）を記録した。GRaSPに比べて実行時間が顕著に短く、精度は同等を維持した。
• 171スキャン分の臨床fMRIデータにおいて、BOSSはBICが98,752.23（±25,139.907）および総エッジ数2,644.61（±430.419）を達成し、モデル適合度とエッジ数の正確さにおいてfGESを上回った。
• 500変数データセットにおいて、BOSSはGRaSPに比べ50％以上の実行時間短縮を達成し、1,012.22秒（±60.835）で完了した。一方、GRaSPは同じ設定で2,331.55秒（±249.112）を要した。
• GSTsの導入により、重複スコア計算が削減され、BOSSは平均次数20の1,000変数にまでスケーリング可能となった。これは、多くの先行手法が計算的に非現実的となる領域である。
• BOSSは合成データおよび実fMRIデータの両方で優れた性能を示し、特に高密度・高次元な環境下で、最先端の精度と速度を達成した。