[論文レビュー] Estimation, Confidence Intervals, and Large-Scale Hypotheses Testing for High-Dimensional Mixed Linear Regression

Linjun Zhang, Rong Ma+2 more|ArXiv.org|Nov 6, 2020

Statistical Methods and Inference参考文献 36被引用数 7

ひとこと要約

本稿は、未知の混合割合および共分散構造を伴う高次元混合線形回帰フレームワークを提案し、推定には高次元EMアルゴリズム、漸近正規性のためのデバイアス推定量、FDRを制御する大規模な多重仮説検定手順を用いる。この手法により、高次元かつ異質なデータ設定下でも有効な信頼区間および仮説検定が可能となる。

ABSTRACT

This paper studies the high-dimensional mixed linear regression (MLR) where the output variable comes from one of the two linear regression models with an unknown mixing proportion and an unknown covariance structure of the random covariates. Building upon a high-dimensional EM algorithm, we propose an iterative procedure for estimating the two regression vectors and establish their rates of convergence. Based on the iterative estimators, we further construct debiased estimators and establish their asymptotic normality. For individual coordinates, confidence intervals centered at the debiased estimators are constructed. Furthermore, a large-scale multiple testing procedure is proposed for testing the regression coefficients and is shown to control the false discovery rate (FDR) asymptotically. Simulation studies are carried out to examine the numerical performance of the proposed methods and their superiority over existing methods. The proposed methods are further illustrated through an analysis of a dataset of multiplex image cytometry, which investigates the interaction networks among the cellular phenotypes that include the expression levels of 20 epitopes or combinations of markers.

研究の動機と目的

• 未知の混合割合および共変数共分散構造を伴う高次元混合線形回帰（MLR）における統計的推論のための理論的・計算的手法の不足に対処する。
• p >> n の状況下で、計算的に効率的かつ理論的に妥当な推定手順を高次元MLRに対して開発する。
• 個々の回帰係数およびその差の漸近的に有効な信頼区間を構築する。
• 高次元設定下で、誤り発見率（FDR）および誤り発見率（FDP）を制御する大規模な多重仮説検定手順を設計する。
• 例えばマルチプレックス画像細胞計測データのような、異質なサブポピュレーションを有する複雑な生物学的データセットにおける推論を可能にする。

提案手法

• 未知の混合割合 ω* および共分散行列 Σ のもとで、2つの回帰ベクトル β₁* および β₂* を推定するための反復的高次元EMアルゴリズムを提案する。
• スパarsityおよび高次元条件の下で、反復的推定量の収束速度を導出し、その性質を確立する。
• 反復的推定量のバイアスを補正することで、デバイアス推定量を構築し、漸近正規性を達成する。
• デバイアス推定量の漸近正規性を活用し、個々の回帰係数のデバイアス推定量を中心とした信頼区間を構築する。
• デバイアス検定統計量に基づく大規模な多重仮説検定手順を開発し、高次元漸近的条件下でFDRおよびFDPを漸近的に制御する。
• 標準正規分布の分位数に基づくしきい値ルールを用いて、誤り発見率制御が保証される棄却域を決定する。

実験結果

リサーチクエスチョン

• RQ1 混合割合 ω* および設計共分散 Σ が未知である高次元混合線形回帰において、2つの回帰ベクトル β₁* および β₂* を推定するための効率的アルゴリズムは何か？
• RQ2 個々の β₁* および β₂* の成分に対する漸近的に有効な信頼区間はどのように構築できるか？
• RQ3 p 個の予測子に対して H₀j: β₁j* = β₂j* = 0 を検定する際、誤り発見率（FDR）を制御する大規模な多重仮説検定手順は何か？
• RQ4 高次元漸近的条件下での反復的推定量の理論的収束速度は何か？
• RQ5 提案手法は、実際の生物学的データ設定下で、特に有限標本における性能が既存手法と比較してどうなるか？

主な発見

• スパarsity条件 s = o(n^{1/2}/(log^{3/2}p log n)) の下で、β₁* および β₂* の反復的推定量は最適な収束速度を達成する。
• デバイアス推定量は漸近的に正規分布に従うため、個々の回帰係数の有効な信頼区間の構築が可能となる。
• 提案された大規模な多重仮説検定手順は、高次元漸近的条件下で誤り発見率（FDR）および誤り発見率（FDP）を漸近的に制御する。
• シミュレーションスタディにおいて、特に高次元かつ異質な設定下で、既存のアプローチに比べ優れた数値的性能を示す。
• マルチプレックス画像細胞計測データセットへの応用において、20個の細胞マーカー間の生物学的に意味のある相互作用ネットワークが同定された。
• 未知の混合割合 ω* ∈ (1/2, 1) および未知の共分散構造 Σ を含む最小限の仮定の下で、理論的保証が確立されている。