[论文解读] Asymptotic minimaxity of False Discovery Rate thresholding for sparse exponential data

David L. Donoho, Jiashun Jin|arXiv (Cornell University)|Feb 14, 2006

Statistical Methods and Inference参考文献 16被引用 37

一句话总结

该论文建立了在估计稀疏指数均值时，False Discovery Rate (FDR) 门限法的渐近极小极大性，表明当 q ≤ 1/2 时，FDR 控制可实现对数尺度上均方误差的近乎最优估计性能。该方法自适应地对数据进行门限处理，以在高维稀疏指数模型中恢复信号，且随着稀疏性增加（η → 0），风险趋近于极小极大下界。

ABSTRACT

We apply FDR thresholding to a non-Gaussian vector whose coordinates X_i, i=1,..., n, are independent exponential with individual means $\mu_i$. The vector $\mu =(\mu_i)$ is thought to be sparse, with most coordinates 1 but a small fraction significantly larger than 1; roughly, most coordinates are simply `noise,' but a small fraction contain `signal.' We measure risk by per-coordinate mean-squared error in recovering $\log(\mu_i)$, and study minimax estimation over parameter spaces defined by constraints on the per-coordinate p-norm of $\log(\mu_i)$: $\frac{1}{n}\sum_{i=1}^n\log^p(\mu_i)\leq \eta^p$. We show for large n and small $\eta$ that FDR thresholding can be nearly Minimax. The FDR control parameter 0<q<1 plays an important role: when $q\leq 1/2$, the FDR estimator is nearly minimax, while choosing a fixed q>1/2 prevents near minimaxity. These conclusions mirror those found in the Gaussian case in Abramovich et al. [Ann. Statist. 34 (2006) 584--653]. The techniques developed here seem applicable to a wide range of other distributional assumptions, other loss measures and non-i.i.d. dependency structures.

研究动机与目标

• 研究大多数 µi = 1 但少数显著更大的稀疏指数均值的极小极大估计。
• 评估在 ℓp-约束稀疏性下，FDR 门限法作为数据自适应估计规则的性能。
• 确定在非高斯、稀疏指数模型中，FDR 门限法在何种条件下实现渐近极小极大风险。
• 将高斯设定下的结果推广至指数噪声，重点关注对数尺度损失与门限规则。
• 建立 FDR 门限法实现渐近极小极大的条件，特别是 FDR 控制参数 q 的作用。

提出的方法

• 建模观测值 Xi ∼ Exp(µi)，其中 µi 稀疏，即大多数 µi = 1，少数大于 1，且在 log(µi) 上受 ℓp-范数约束。
• 通过在对数尺度上的逐坐标均方误差衡量估计风险：(1/n)∑(log ˆµi − log µi)²。
• 将极小极大风险 R∗n 定义为所有估计器在 ℓp-球半径为 η 的最坏情况风险的下确界。
• 提出 FDR 门限估计器 ˆµFDR,q,n，使用数据依赖门限 tFDR = X(kFDR)，其中 kFDR 是满足 X(k) ≥ −log(qk/n) 的最大 k。
• 应用 Simes 方法控制 FDR 水平为 q，确保假发现的期望比例 ≤ q。
• 通过在顺序统计量上使用极值理论与经验过程工具，分析当 n → ∞ 后 η → 0 时的渐近行为。

实验结果

研究问题

• RQ1 在何种条件下，FDR 门限法对稀疏指数数据实现渐近极小极大性？
• RQ2 FDR 控制参数 q 的选择如何影响 FDR 估计器的极小极大风险？
• RQ3 FDR 门限法能否在具有重尾或非正态噪声的非高斯稀疏模型中实现近似最优估计性能？
• RQ4 稀疏性参数 η 与 ℓp-范数约束在决定极小极大风险与估计器性能方面起什么作用？
• RQ5 在高维稀疏指数模型中，FDR 门限法与 oracle 门限法及其他自适应估计规则相比表现如何？

主要发现

• 当 0 < q ≤ 1/2 时，FDR 估计器 ˆµFDR,q,n 实现渐近极小极大性：其最坏情况风险与极小极大风险之比在 n → ∞ 且 η → 0 时趋于 1。
• 当 q > 1/2 时，FDR 估计器非渐近极小极大，且风险比收敛于 q/(1−q) > 1，表明存在明确的性能差距。
• 极小极大风险 R∗n(Mn,p(η)) 渐近行为为 ηp log²⁻ᵖ log(1/η)，确立了收敛的精确速率。
• oracle 门限法的最优门限 t0(p,η) 在 η → 0 时的尺度为 p log(1/η) + p log log(1/η) · (1 + o(1))。
• FDR 门限法在有限样本中表现良好，当 q < 1/2 时经验风险接近 η log log(1/η)，而当 q 接近 1/2 时仅适度增加。
• 该方法可推广至其他非高斯模型，包括稀疏泊松均值及具有 Gumbel 或双指数分布噪声的加性噪声模型，前提是尾部足够轻。