[論文レビュー] Learning extremal graphical structures in high dimensions

Sebastian Engelke, Michaël Lalancette+1 more|arXiv (Cornell University)|Nov 1, 2021

Statistical Methods and Inference被引用数 4

ひとこと要約

本稿では、高次元のHüsler–Reiss分布における極値的グラフィカル構造を一貫して回復するため、L¹正則化最適化を用いた多数決投票アルゴリズムを提案する。また、経験的極値的変動関数の非漸近的集中性を確立し、一般の連結グラフにおいて理論的一貫性を保証する信頼性の高いグラフ学習を可能にする。

ABSTRACT

Extremal graphical models encode the conditional independence structure of multivariate extremes. Key statistics for learning extremal graphical structures are empirical extremal variograms, for which we prove non-asymptotic concentration bounds that hold under general domain of attraction conditions. For the popular class of Hüsler--Reiss models, we propose a majority voting algorithm for learning the underlying graph from data through $L^1$ regularized optimization. Our concentration bounds are used to derive explicit conditions that ensure the consistent recovery of any connected graph. The methodology is illustrated through a simulation study as well as the analysis of river discharge and currency exchange data.

研究の動機と目的

• 高次元多変量極値モデルにおける極値的グラフィカル構造を一貫的かつデータ駆動的に学習するための手法を開発すること。
• 木構造やブロックグラフのような単純な構造を超えて、一般の理論的根拠に基づいたグラフ回復手法が不足している問題に取り組むこと。
• 一般の多変量パレート分布に適用可能な、経験的極値的変動関数の非漸近的集中性を確立すること。
• 一般の連結グラフに対して、提案手法が一貫したグラフ回復を達成するための明示的な条件を提供すること。
• 従来の非パラメトリック極値グラフ学習を最小全域木を超えて、任意のグラフィカル構造へと拡張すること。

提案手法

• 複数のL¹正則化最適化問題の結果を統合する多数決投票アルゴリズムを提案し、グラフ構造の回復を改善すること。
• 高次元データにおける対間極値的依存を推定するための主要統計量として、経験的極値的変動関数を用いること。
• Hüsler–Reiss分布の精度行列にL¹正則化を適用し、スパarsityを誘導することで、条件付き独立構造を推定すること。
• 有限標本に対して有効な一般の多変量パレート分布下での経験的極値的変動関数の非漸近的集中性を導出すること。
• 標本サイズとスパarsityレベルを次元に対して明示的な条件として導出し、グラフ回復の一貫性を理論的に確立すること。
• Hüsler–Reiss分布の構造的性質（パラメトリックな形と同次性）を活用し、扱いやすい推論を可能にすること。

実験結果

リサーチクエスチョン

• RQ1 単純な木構造やブロックグラフ構造を超えて、一般の極値的グラフィカルモデルを高次元で一貫的かつスケーラブルに学習する手法を開発できるか？
• RQ2 一般の多変量パレート分布に対して、経験的極値的変動関数の非漸近的集中性はどのような性質を示すか？
• RQ3 Hüsler–Reiss精度行列に対するL¹正則化最適化が、真のグラフを一貫して回復するための条件は何か？
• RQ4 複数の正則化推定器を用いた多数決投票により、極値的グラフ学習のロバスト性と精度がどのように向上するか？
• RQ5 提案手法は、有限標本保証が得られる実世界の高次元極値データに適用可能か？

主な発見

• L¹正則化最適化を用いた提案された多数決投票アルゴリズムは、標本サイズとグラフスパarsityに関する明示的条件の下で、一貫した極値的グラフ回復を達成する。
• 一般の多変量パレート分布に対して、経験的極値的変動関数の非漸近的集中性が確立され、有限標本においても有効である。
• 本手法は、木構造や分解可能構造に限定されない一般の連結グラフに対しても、真のグラフ構造を一貫して回復することを保証する。
• 広く空間的・多変量極値モデリングに用いられるHüsler–Reiss族に対する理論的保証が得られる。
• 極値的変動関数が、極値的依存を推定する信頼性の高い理論的根拠を持つ推定量であることが示され、非パラメトリックなグラフ学習を可能にする。
• 理論的一貫性とロバスト性を提供する本手法は、ヒューリスティックな手法（例：前向き選択）を上回り、高次元設定下で優れた性能を示す。