[論文レビュー] Learning High-dimensional Gaussian Graphical Models under Total Positivity without Adjustment of Tuning Parameters

Yuhao Wang, Uma Roy+1 more|arXiv (Cornell University)|Jun 12, 2019

Statistical Methods and Inference参考文献 35被引用数 9

ひとこと要約

本稿では、多変量全正性（MTP2）下での高次元ガウスグラフィカルモデルの学習に向け、チューニングパラメータ不要の制約ベース推定法を提案する。この手法は、経験的偏相関係数の符号検定を活用し、チューニングパラメータの調整を要せず、理論的に一貫性のある構造回復を達成する。シミュレーションおよびファイナンシャルデータ応用において、既存手法を上回る性能を示す。

ABSTRACT

We consider the problem of estimating an undirected Gaussian graphical model when the underlying distribution is multivariate totally positive of order 2 (MTP2), a strong form of positive dependence. Such distributions are relevant for example for portfolio selection, since assets are usually positively dependent. A large body of methods have been proposed for learning undirected graphical models without the MTP2 constraint. A major limitation of these methods is that their structure recovery guarantees in the high-dimensional setting usually require a particular choice of a tuning parameter, which is unknown a priori in real world applications. We here propose a new method to estimate the underlying undirected graphical model under MTP2 and show that it is provably consistent in structure recovery without adjusting the tuning parameters. This is achieved by a constraint-based estimator that infers the structure of the underlying graphical model by testing the signs of the empirical partial correlation coefficients. We evaluate the performance of our estimator in simulations and on financial data.

研究の動機と目的

• MTP2制約下での高次元ガウスグラフィカルモデル推定におけるチューニングパラメータの感度問題に対処すること。
• チューニングパラメータの調整を必要としない構造回復手法を開発すること。
• すべての偏相関係数が非負であるMTP2条​​件を活用し、推定精度と理論的保証を向上させること。
• 既知の正の依存構造を有する合成データおよび実際のファイナンシャルデータ上で性能を評価すること。
• 符号に基づく偏相関係数の検定が、MTP2下でチューニングフリーかつ理論的に一貫性のある構造回復を可能にすることを示すこと。

提案手法

• 本手法は、経験的偏相関係数の符号に基づく条件付き独立性検定を用いてグラフィカル構造を同定する。
• MTP2仮定に整合するように、経験的偏相関が非負である場合にのみエッジを保持する制約ベースのアプローチを採用する。
• 理論的最適値（γ = 7/9）に固定することで、チューニングパラメータを一切必要としない。
• 各偏相関係数が有意に0より大きいかどうかを、固定されたγを用いて検定することで推定器を構築する。
• 時間計算量はO(p^d)と計算コストが高いため、理論的一致性を高次元設定で保証する。
• MTP2下では真の精度行列の要素がすべて非負であるため、符号に基づくエッジ検出が可能になる。

実験結果

リサーチクエスチョン

• RQ1 MTP2制約下でチューニングパラメータの調整なしに、ガウスグラフィカルモデル推定が構造回復において理論的に一貫性を持つことができるか？
• RQ2 経験的偏相関係数の符号に基づく検定が、高次元MTP2モデルにおいて理論的に一貫性のある構造回復を達成できるか？
• RQ3 固定γを用いた制約ベース推定器の性能は、グラフィカルlasso や安定性選択といったチューニング依存型手法と比べてどうか？
• RQ4 このような手法は、内在的な正の依存構造を有する実世界のファイナンシャルデータにおいて、既存手法を上回ることができるか？
• RQ5 γを7/9に固定する理論的根拠は何か？この選択が一貫性を保証するか？

主な発見

• 提案手法は、MTP2ガウスグラフィカルモデルにおいて、チューニングパラメータの調整なしに理論的一致性のある構造回復を達成する。これは、MTP2下での初の事例である。
• シミュレーションでは、Matthews相関係数（MCC）と真正陽性率（TPR）の両面で、すべての競合手法を上回り、標準偏差が最小であった。
• 100銘柄の株式を含むファイナンシャルデータでは、モジュラリティ係数が0.482に達し、次に優れた手法（0.418）および他のすべての手法（安定性選択の変種を含む）を顕著に上回った。
• 固定γ = 7/9のアルゴリズムは、チューニング感度を低減することを目的とした安定性選択を用いた手法でさえ、一貫して優れた性能を示した。
• MCCおよびTPRの観点から、試行間での変動が最小限に抑えられ、高い一貫性が確認された。
• 本手法は、理論的一致性保証を有するチューニングパラメータフリーな手法として、ガウスグラフィカルモデルにおける構造回復分野で初めて知られたものである。