[論文レビュー] Tree-based Node Aggregation in Sparse Graphical Models

Ines Wilms, Jacob Bien|PubMed|Jan 29, 2021

Statistical Methods and Inference参考文献 33被引用数 4

ひとこと要約

本稿では、木構造の補助情報を利用して高次元グラフィカルモデルにおけるエッジスパarsityとデータ駆動型ノード集約を同時に実現する凸正則化手法、tag-lassoを提案する。木構造を用いて類似したノードをグループ化し、スパarsity誘導型ペナルティを適用することで、解釈可能で集約されたグラフィカルモデルを生成する。シミュレーションおよびファイナンスとマイクロバイオームデータの実世界応用において、標準的な glasso よりも優れた性能を示す。

ABSTRACT

High-dimensional graphical models are often estimated using regularization that is aimed at reducing the number of edges in a network. In this work, we show how even simpler networks can be produced by aggregating the nodes of the graphical model. We develop a new convex regularized method, called the <i>tree-aggregated graphical lasso</i> or tag-lasso, that estimates graphical models that are both edge-sparse and node-aggregated. The aggregation is performed in a data-driven fashion by leveraging side information in the form of a tree that encodes node similarity and facilitates the interpretation of the resulting aggregated nodes. We provide an efficient implementation of the tag-lasso by using the locally adaptive alternating direction method of multipliers and illustrate our proposal's practical advantages in simulation and in applications in finance and biology.

研究の動機と目的

• 変数が細粒度の解像度で測定される高次元グラフィカルモデルにおける解釈可能性と次元の課題に対処する。
• 標準的なグラフィカルラassoはエッジスパarsityにのみ注目しており、関連する変数を意味的にグループ化できないという限界を克服する。
• 木構造という形での補助情報を統合し、データ駆動型の階層的ノード集約を可能にすることで、モデルの解釈可能性を向上させる。
• 同時にエッジスパarsityとノード集約を促進する凸最適化フレームワークを構築し、モデルの複雑さを低減する。
• シミュレーションおよびファイナンスとマイクロバイオームデータにおける実世界応用を通じて、本手法の実用的利点を示す。

提案手法

• ノード集約をスパースモデリング問題に写像する木ベースのパrameterizationを提案し、効率的な最適化を可能にする。
• tag-lasso を凸最適化問題として定式化する：最小化 −log det(Ω) + tr(SΩ) + λ₁‖Ω‖₁ + λ₂‖Ω‖_T、ここで ‖Ω‖_T は木構造に基づく集約を強制する。
• 局所的に適応する交替方向乗数法（ADMM）を用いて tag-lasso 推定子の効率的計算を実現する。
• チューニングパラメータ λ₁（スパarsity）と λ₂（集約強度）の選択に交差検証を組み込み、ブロック数の制約あり・なしのオプションを提供する。
• 集約レベルの柔軟な選択を可能とし、交差検証によるデータ駆動型のノード集約数の選定を可能にする。
• Rパッケージとして taglasso を開発し、GitHub で公開することで再現性と実用的利用を促進する。

実験結果

リサーチクエスチョン

• RQ1 木構造に従ったノード集約は、エッジスパarsityのみに注目する標準的な手法と比較して、高次元グラフィカルモデルの解釈可能性と精度を向上させるか？
• RQ2 真のグラフがスパースかつ階層的にグループ化されているとわかっている状況で、tag-lasso は真の集約グラフ構造をどれほど正確に回復できるか？
• RQ3 交差検証によるデータ駆動型の集約レベル選択は、標準的な glasso や固定集約手法と比較して、より優れた予測性能（アウトオブサンプル性能）をもたらすか？
• RQ4 マイクロバイオームや金融データといった実世界の応用において、tag-lasso は glasso よりも解釈可能で正確なグラフィカルモデルを提供するか？
• RQ5 制約付き集約を用いた tag-lasso において、解釈可能性（集約）と予測性能（アウトオブサンプル誤差）の間にトレードオフがあるか？

主な発見

• シミュレーションでは、tag-lasso は真の集約グラフ構造を的確に回復し、スパarsityパターンとノードグループの推定において glasso を上回った。
• マイクロバイオームデータでは、tag-lasso は 8 個の集約ノード（OTU、属、科レベルのグループ）を推定したが、glasso は OTU レベルで密な、解釈が難しいネットワークを生成した。
• 非制約型 tag-lasso は 10 回の再現のうち 9 回で、glasso よりも低いアウトオブサンプルテスト誤差を達成し、優れた予測性能を示した。
• 制約付き tag-lasso（≤10 ブロック）は、glasso と同等の性能を維持し、テスト誤差が 45 度線に近く、解釈性の向上に伴う精度の著しい低下は認めなかった。
• 制約付き tag-lasso の「k_Bacteria*」ノードは、78 個の OTU を条件付き独立と推定したが、これは効果的な信号強化とノイズ低減を示している。
• 本手法は、例として「g_Blautia」のような属レベルのノードといった意味のある生物学的グループを正しく同定し、分類学的レベルを越えた相互作用を捉えることができたが、これは glasso では達成できなかった。