[論文レビュー] A Sieve Quasi-likelihood Ratio Test for Neural Networks with Applications to Genetic Association Studies

Xiaoxi Shen, Chang Jiang+2 more|arXiv (Cornell University)|Dec 16, 2022

Statistical Methods and Inference被引用数 4

ひとこと要約

本稿では、1層の隠れ層を備えたニューラルネットワークに対して、非パラメトリック回帰設定における仮説検定を可能にするスィーブ擬似尤度比（SQLR）検定を提案する。検定統計量は漸近的にカイ二乗分布に従い、データ分割を必要とせず、計算的にも実装可能である。シミュレーションによる検証と、アルツハイマー病の症例データへの応用が行われた。

ABSTRACT

Neural networks (NN) play a central role in modern Artificial intelligence (AI) technology and has been successfully used in areas such as natural language processing and image recognition. While majority of NN applications focus on prediction and classification, there are increasing interests in studying statistical inference of neural networks. The study of NN statistical inference can enhance our understanding of NN statistical proprieties. Moreover, it can facilitate the NN-based hypothesis testing that can be applied to hypothesis-driven clinical and biomedical research. In this paper, we propose a sieve quasi-likelihood ratio test based on NN with one hidden layer for testing complex associations. The test statistic has asymptotic chi-squared distribution, and therefore it is computationally efficient and easy for implementation in real data analysis. The validity of the asymptotic distribution is investigated via simulations. Finally, we demonstrate the use of the proposed test by performing a genetic association analysis of the sequencing data from Alzheimer's Disease Neuroimaging Initiative (ADNI).

研究の動機と目的

• バイオメディカル研究における推論を支援する統計的に妥当なニューラルネットワーク用仮説検定を開発すること。
• ワルド検定や尤度比検定が無効となる、ニューラルネットワークにおけるパrameterの同定不能性の問題に対処すること。
• 既存の適合度検定で必要なデータ分割を回避することで、統計的検出力の損失を防ぐこと。
• 実用的な実装が可能な単純な漸近的分布（カイ二乗分布）を持つ検定を確立すること。
• アルツハイマー病神経画像行動研究計画（ADNI）から得たシーケンシングデータを用いて、遺伝子関連性研究にこの手法を適用すること。

提案手法

• ランダム設計下におけるニューラルネットワークを用いた非パラメトリック回帰に基づくスィーブ擬似尤度比（SQLR）検定を提案する。
• 有限次元関数空間の系列による真の回帰関数のスィーブ近似を用いる。
• 検定統計量を帰無仮説と対立仮説の下での擬似尤度の比として定義し、インフルエンス関数と経験過程理論を活用する。
• 関数クラスのモーメントおよびエントロピー条件を含む正則性条件下で、検定統計量の漸近的カイ二乗分布を確立する。
• デルタ法およびドンスカークラス理論を用いて、経験過程の収束速度と漸近正規性を導出する。
• マクディアーミドの不等式を用いて経験過程の乖離を制御し、弱いモーメント仮定下でも検定の一貫性を保証する。

実験結果

リサーチクエスチョン

• RQ1 ニューラルネットワークに基づく検定は、仮説検定に適した単純な漸近的分布を持つように構築可能か？
• RQ2 提案されたSQLR検定は、統計的検出力を維持しながらも、データ分割を回避できるか？
• RQ3 ニューラルネットワークモデルの現実的な正則性条件下で、SQLR検定の漸近的カイ二乗分布は有効か？
• RQ4 SQLR検定は、高次元の遺伝子データにおける複雑な非線形関連性を検出可能か？
• RQ5 有限標本において、既存のニューラルネットワークベースの推論手法と比較して、SQLR検定はどのように性能を発揮するか？

主な発見

• 提案されたスィーブ擬似尤度比検定統計量は漸近的にカイ二乗分布に従い、有意水準の決定が容易になる。
• 本検定はデータ分割を必要とせず、既存の適合度検定と比較して潜在的な検出力の損失を回避できる。
• シミュレーションにより、帰無仮説下での漸近的カイ二乗分布の有効性が確認された。
• 本手法は収束速度 $ \|\hat{f}_{n}-f_{0}\| = \mathcal{O}_{p}\left((n/\log n)^{-(1+1/d)/(4(1+1/(2d)))}\right) $ を達成しており、古典的非パラメトリック手法よりも優れた性能を示している。
• ADNIの遺伝子関連性研究において、SQLR検定は遺伝子変異とアルツハイマー病の進行との間の有意な非線形関連性を的確に同定した。
• 弱いモーメント条件下でも本検定は頑健であり、真の関数がスィーブ空間に正確に表現されない場合でも有効性を保っている。