[論文レビュー] NeuralFDR: Learning Discovery Thresholds from Hypothesis Features

Fei Xia, Martin Jinye Zhang+2 more|arXiv (Cornell University)|Nov 3, 2017

Gene expression and cancer classification参考文献 14被引用数 10

ひとこと要約

NeuralFDR は、複数の仮説の多次元的特徴を用いて、深層学習ベースの手法により多重仮説検定における発見閾値を学習する。ニューラルネットワークを用いて p 値の切捨て値を適応的に設定し、高い確率で誤り発見率（FDR）を制御するとともに、合成データおよび実データにおいて最先端の手法と比較して顕著に発見数を増加させる。

ABSTRACT

As datasets grow richer, an important challenge is to leverage the full features in the data to maximize the number of useful discoveries while controlling for false positives. We address this problem in the context of multiple hypotheses testing, where for each hypothesis, we observe a p-value along with a set of features specific to that hypothesis. For example, in genetic association studies, each hypothesis tests the correlation between a variant and the trait. We have a rich set of features for each variant (e.g. its location, conservation, epigenetics etc.) which could inform how likely the variant is to have a true association. However popular testing approaches, such as Benjamini-Hochberg's procedure (BH) and independent hypothesis weighting (IHW), either ignore these features or assume that the features are categorical or uni-variate. We propose a new algorithm, NeuralFDR, which automatically learns a discovery threshold as a function of all the hypothesis features. We parametrize the discovery threshold as a neural network, which enables flexible handling of multi-dimensional discrete and continuous features as well as efficient end-to-end optimization. We prove that NeuralFDR has strong false discovery rate (FDR) guarantees, and show that it makes substantially more discoveries in synthetic and real datasets. Moreover, we demonstrate that the learned discovery threshold is directly interpretable.

研究の動機と目的

• 各仮説に関連する豊富な多次元的特徴を無視する伝統的な多重仮説検定手順の限界を解消すること。
• 仮説特徴から発見閾値への非線形な意思決定ルールを学習する柔軟でエンドツーエンドの手法を開発すること。
• 独立性および弱い依存性の仮定下でも、複雑な連続的または離散的特徴が存在する状況においても強力な FDR 制御を保証すること。
• 生物学的またはドメイン固有のインサイトを示す解釈可能な発見閾値を可能にすること。
• Benjamini-Hochberg や IHW と比較して、発見率を上回りながら FDR 制御を維持すること

提案手法

• 仮説特徴から p 値の切捨て値を出力する多層パーセプトロン（MLP）として発見閾値をパrameter化する。
• 訓練中に誤り発見数を安定的に推定するためのミラー画像技術を用い、FDR 制御の強化を図る。
• 重みクリッピングを用いた勾配降下法により、ネットワークをエンドツーエンドで最適化し、安定性を確保する。
• 独立性および弱い依存性の下で FDR 制御が保証されることを理論的に示し、漸近的有効性を裏付ける。
• p 値と特徴の同時密度に基づく最適閾値の k クラスタリングに基づく近似を用いてネットワークを初期化する。
• 学習問題をミニマックス最適化として定式化し、FDP がすべての妥当な帰無仮説比率の設定において制約される中で発見力を最大化することを目的とする

実験結果

リサーチクエスチョン

• RQ1 ニューラルネットワークは、定数閾値法よりも優れた発見力をもたらす非線形かつ特徴依存の発見閾値を効果的に学習できるか？
• RQ2 提案手法 NeuralFDR は、連続的および多次元的仮説特徴が存在する状況でも強力な FDR 制御を維持できるか？
• RQ3 実データおよび合成データにおいて、NeuralFDR は IHW や Benjamini-Hochberg と比較して発見率および FDR 制御の両面で優れているか？
• RQ4 学習された閾値関数は、データ構造や生物学的メカニズムに関するインサイトを明確に示す解釈可能な意味を持つのか？
• RQ5 FDR 制御および性能に最も効果的なアーキテクチャ選択（例：MLP の深さ）および訓練戦略（例：重みクリッピング、ミラー画像技術）は何か？

主な発見

• NeuralFDR は、合成データおよび実データの両方で、BH や IHW と比較して顕著に発見数を増加させる。特に、代替仮説の割合が高い状況で顕著な向上を示す。
• 理論的に示されたように、独立性の下では高い確率で強力な FDR 制御が維持され、弱い依存性の下では漸近的に有効である。
• 学習された発見閾値は直接解釈可能であり、モデル出力が特徴空間における有意義なパターン（例：保存性や位置が有意性に与える影響）を明らかにしている。
• 実際の応用では 10 層の MLP が最良の性能を示したが、浅いネットワークでは性能が劣ることが判明し、複雑な信号を捉えるために深さが重要であることが示された。
• ミラー画像技術により、訓練中における誤り発見数の推定が安定的に行えるようになり、FDR 制御の安定性に寄与した。
• 最適閾値は、ほぼ確実に $ f_{Pf{X}}(1,f{x}) / f_{Pf{X}}(t^*(f{x}),f{x}) = \text{const} $ を満たすという定常性条件を満たしており、学習プロセスをガイドする役割を果たす。