[論文レビュー] Controlling False Discovery Rate Using Gaussian Mirrors

Xin Xing, Zhigen Zhao+1 more|arXiv (Cornell University)|Nov 21, 2019

Statistical Methods and Inference参考文献 36被引用数 11

ひとこと要約

本稿では、ガウスノイズを用いた摂動によってミラーバリエートを生成することにより、高次元線形回帰における誤発見率（FDR）を制御するためのガウスミラー（GM）手法を提案する。この手法は、弱い依存性仮定のもとで任意の指定された水準でFDR制御を可能にし、特に高相関および非スパースな設計において、従来の手法（ノックオフフィルタを含む）を上回る高い検出力を持つ。

ABSTRACT

Simultaneously finding multiple influential variables and controlling the false discovery rate (FDR) for linear regression models is a fundamental problem. We here propose the Gaussian Mirror (GM) method, which creates for each predictor variable a pair of mirror variables by adding and subtracting a randomly generated Gaussian perturbation, and proceeds with a certain regression method, such as the ordinary least-square or the Lasso (the mirror variables can also be created after selection). The mirror variables naturally lead to test statistics effective for controlling the FDR. Under a mild assumption on the dependence among the covariates, we show that the FDR can be controlled at any designated level asymptotically. We also demonstrate through extensive numerical studies that the GM method is more powerful than many existing methods for selecting relevant variables subject to FDR control, especially for cases when the covariates are highly correlated and the influential variables are not overly sparse.

研究の動機と目的

• 高次元線形回帰における影響力のある変数の同時選択と誤発見率（FDR）の制御という課題に取り組む。
• 予測変数が高相関にあり、真の信号がスパースでない場合でも、強力なFDR制御を維持できる手法を開発すること。
• ノックオフやモデル-Xノックオフなどの既存のFDR制御手法に対する、計算的に実行可能で高力な代替手法を提供すること。
• ニューラルネットワークを含む非線形モデルへこの手法を拡張すること、特にニューラルガウスミラー（NGM）の変種を用いて実現すること。

提案手法

• 各予測変数に対して、適切に選ばれたスケールのゼロ平均ガウスノイズを加算および減算することで、2つのミラーバリエートを生成する。
• ミラーバリエート上の回帰係数の符号付き差を、変数の重要性を評価するための検定統計量として用いる。
• 期待されるFDPが名目水準q以下に抑えられるように、ミラーステータスの分位点でしきい値を設定することでFDRを制御する。
• 帰無仮説下でのミラーバリエートの対称性および交換可能性の性質を活用し、漸近的に有効なFDR制御を保証する。
• 線形モデルおよびニューラルネットワークの両方への適用において、後者では影響度測度を用いてミラーステータスを計算する。
• ニューラルネットワーク応用における最適な摂動スケールの選定に、非パラメトリックな条件付き相互情報量の測度を用いる。

実験結果

リサーチクエスチョン

• RQ1 強い分布的仮定や共変数分布の完全な知識を必要とせず、単純でデータ駆動型の手法が高次元線形回帰におけるFDR制御を可能にするか？
• RQ2 高相関および非スパース設計下で、GM手法はノックオフフィルターやモデル-Xノックオフと比較してどのように性能を発揮するか？
• RQ3 GMフレームワークをニューラルネットワークなどの非線形モデルへ一般化可能か？ その際、FDR制御を維持するとともに高い検出力を保つことができるか？
• RQ4 共変数に弱い依存性仮定をおく場合、FDR制御の理論的裏付けはどのように得られるか？
• RQ5 摂動スケールの選択が有限標本における検出力およびFDR制御に与える影響はいかほどか？

主な発見

• GM手法は、共変数にやや弱い依存性仮定が成り立つ限り、任意の事前に指定された水準qでFDRを漸近的に制御する。
• 高相関設定下では、真の信号がスパースでない場合に特に顕著に、従来手法よりも顕著に高い検出力を達成する。
• ニューラルネットワークモデルでは、NGMバージョンは名目水準（q=0.1）未満のFDRを維持し、多項式リンク関数においてDeepPINKを上回る検出力を示す。
• p=2000、f3(t)=0.1t^5のシミュレーションでは、NGMは53.0%の検出力を達成した一方で、DeepPINKは5.3%まで低下し、NGMの非線形性へのロバストネスを示している。
• 予測変数の連続分布が未知であっても、FDR制御が維持され、モデル-Xノックオフと同様に強いモデル仮定に依存しない。
• 理論的分析により、期待されるFDPが名目水準に収束することが確認され、弱い条件下でもFDR制御が漸近的に成立することが保証されている。