[論文レビュー] RANK: Large-Scale Inference With Graphical Nonlinear Knockoffs

Yingying Fan, Emre Demirkaya+2 more|arXiv (Cornell University)|Aug 31, 2017

Statistical Methods and Inference参考文献 59被引用数 4

ひとこと要約

本稿では、未知の共変量分布を伴う非線形モデルにおいて、誤り発見率（FDR）を制御しながら漸近的にパワー1を達成する高次元特徴選択のための新規手法RANK（RANK: Large-Scale Inference with Graphical Nonlinear Knockoffs）を紹介する。この手法は、推定されたガウスグラフィカルモデルを用いてモデルフリーのノックオフ変数を構築することで、ノックオフスフレームワークをグラフィカルモデルに拡張し、モデル不適合下でもFDR制御と高いパワーを確保する。

ABSTRACT

Power and reproducibility are key to enabling refined scientific discoveries in contemporary big data applications with general high-dimensional nonlinear models. In this article, we provide theoretical foundations on the power and robustness for the model-X knockoffs procedure introduced recently in Candès, Fan, Janson and Lv in high-dimensional setting when the covariate distribution is characterized by Gaussian graphical model. We establish that under mild regularity conditions, the power of the oracle knockoffs procedure with known covariate distribution in high-dimensional linear models is asymptotically one as sample size goes to infinity. When moving away from the ideal case, we suggest the modified model-X knockoffs method called graphical nonlinear knockoffs (RANK) to accommodate the unknown covariate distribution. We provide theoretical justifications on the robustness of our modified procedure by showing that the false discovery rate (FDR) is asymptotically controlled at the target level and the power is asymptotically one with the estimated covariate distribution. To the best of our knowledge, this is the first formal theoretical result on the power for the knockoffs procedure. Simulation results demonstrate that compared to existing approaches, our method performs competitively in both FDR control and power. A real dataset is analyzed to further assess the performance of the suggested knockoffs procedure. Supplementary materials for this article are available online.

研究の動機と目的

• 一般の高次元非線形モデル下で、ノックオフス手順に理論的パワー保証が欠如している問題に対処すること。
• 真の共変量分布が未知であるがガウスグラフィカルモデルに従うと仮定する状況における特徴選択のためのロバストな手法を開発すること。
• 現実的な高次元漸近的設定下で、モデルフリーのノックオフスにおけるFDR制御とパワーの理論的基盤を確立すること。
• FDRを制御しながら高い統計的パワーを維持する、スケーラブルで計算的に実行可能な手法を提案すること。

提案手法

• RANKは、ガウスグラフィカルモデルからの推定精度行列を用いてノックオフ変数を構築し、特定の応答モデルを仮定せずモデルフリー推論を可能にする。
• 交換可能性を保ち、FDR制御を確実にするために、推定された共分散構造に基づく対称的2次ノックオフス構築を採用する。
• 高次元精度行列の推定に正則化推定手順（例：グラフィカルラッソ）を用いる。
• ノックオフ変数から導出された検定統計量に基づく特徴スクリーニング手順を適用し、事前に指定された水準でFDRを制御しながら特徴を選択する。
• 理論的分析では、集中不等式と行列摂動理論を用いて推定誤差を限定し、漸近的整合性を保証する。
• グラフィカルモデルにエンコードされた条件付き独立構造を活用することで、非線形モデルへのフレームワークの拡張を実現する。

実験結果

リサーチクエスチョン

• RQ1 共変量分布が既知である場合、ノックオフス手順は高次元非線形モデルで漸近的にパワー1に達するか？
• RQ2 共変量分布が未知である状況で、ノックオフスフレームワークをどのように拡張すればFDR制御を維持できるか？
• RQ3 ノックオフスに基づく特徴選択におけるモデル不適合とパワーの理論的関係は何か？
• RQ4 モデルフリーのノックオフス手法は、非線形かつ高次元な設定でも高いパワーとロバストなFDR制御を達成できるか？
• RQ5 推定されたグラフィカルモデルから得られるノックオフスの有限標本および漸近的性質は何か？

主な発見

• やや緩い正則性条件の下で、共変量分布が既知のオракルノックオフス手順は、標本サイズが増加するにつれて漸近的にパワー1に達する。
• 提案されたRANK手法は、真の精度行列がデータから推定されていても、漸近的にターゲット水準でのFDR制御を達成する。
• 同じ条件下で、RANKのパワーは漸近的に1に達する。これは、高次元非線形モデルにおいて強力な理論的性能を示している。
• シミュレーション結果から、RANKは特に高次元かつ非線形な設定下で、既存手法を上回るFDR制御とパワーを示している。
• 推定誤差と検定統計量の逸脱に関する理論的境界により、精度行列の推定誤差やモデル不適合に対するロバスト性が実証されている。