[论文解读] Structural adaptive deconvolution under $L_p$-losses

Gilles Rebelles|arXiv (Cornell University)|Apr 23, 2015

Statistical Methods and Inference参考文献 22被引用 4

一句话总结

本文提出了一种完全基于数据的核去卷积估计器，用于在误差密度的特征函数具有多项式衰减时，对多维密度估计在 $L_p$-损失下进行估计。该文建立了Oracle不等式，并证明了在各向异性的Nikolskii类上的极小极大自适应性，对 $p \in [2, \infty]$ 实现了最优收敛速率，同时自动适应密度分量的潜在独立结构。

ABSTRACT

In this paper, we address the problem of estimating a multidimensional density $f$ by using indirect observations from the statistical model $Y=X+\varepsilon$. Here, $\varepsilon$ is a measurement error independent of the random vector $X$ of interest, and having a known density with respect to the Lebesgue measure. Our aim is to obtain optimal accuracy of estimation under $L_p$-losses when the error $\varepsilon$ has a characteristic function with a polynomial decay. To achieve this goal, we first construct a kernel estimator of $f$ which is fully data driven. Then, we derive for it an oracle inequality under very mild assumptions on the characteristic function of the error $\varepsilon$. As a consequence, we get minimax adaptive upper bounds over a large scale of anisotropic Nikolskii classes and we prove that our estimator is asymptotically rate optimal when $p\in[2,+\infty]$. Furthermore, our estimation procedure adapts automatically to the possible independence structure of $f$ and this allows us to improve significantly the accuracy of estimation.

研究动机与目标

• 解决当误差分布的特征函数具有多项式衰减时，多维密度去卷积在 $L_p$-损失下的问题。
• 开发一种完全基于数据的核估计器，可自适应于目标密度中未知的光滑性及潜在的独立结构。
• 在误差特征函数的弱假设下，建立估计器的Oracle不等式，以确保最优的估计精度。
• 推导出在广泛的一类各向异性的Nikolskii函数空间上的极小极大自适应上界。
• 证明当 $p \in [2, \infty]$ 时，估计器的渐近收敛速率达到最优。

提出的方法

• 通过基于数据的带宽选择程序，构建基于核的去卷积估计器。
• 在误差分布特征函数的弱条件下，推导出估计器的Oracle不等式。
• 利用基于乘积核索引的随机过程的集中不等式与矩界，控制估计误差。
• 通过基于划分的方法在坐标子集上引入独立结构，实现自适应平滑。
• 采用基于子集 $I \in \mathcal{I}_d^\diamond$ 索引的带宽族的局部化技术，以处理各向异性的光滑性。
• 使用链式论证和上确界范数矩界，控制带宽空间上经验过程的上确界。

实验结果

研究问题

• RQ1 当误差特征函数呈多项式衰减时，完全基于数据的核估计器能否在多元去卷积中实现最优的 $L_p$-风险速率？
• RQ2 估计器如何自适应于未知的光滑性及目标密度的潜在独立结构？
• RQ3 在各向异性的Nikolskii类上，去卷积在 $L_p$-损失下的极小极大收敛速率是什么？
• RQ4 所提出的估计器是否在 $p \in [2, \infty]$ 时达到最优收敛速率？
• RQ5 在误差特征函数的最小假设下，能否建立Oracle不等式？

主要发现

• 所提出的估计器在误差特征函数的弱假设下实现了Oracle不等式，确保了近似最优性能。
• 该估计器在一大类各向异性的Nikolskii类上具有极小极大自适应性，其收敛速率与已知的极小极大下界一致。
• 对于 $p \in [2, \infty]$，该估计器渐近达到最优收敛速率，即 $n^{-\frac{\tau}{2\tau+1}}$，其中 $\tau = \left[\sum_{j=1}^d \frac{2\lambda_j + 1}{\beta_j}\right]^{-1}$。
• 该方法能自动适应密度的独立结构，在高维设置下显著提高估计精度。
• 通过链式论证和集中不等式，推导出经验过程的矩界，从而实现了对带宽空间的统一控制。
• 通过包含 $n^{-1/2}$ 的非渐近界控制有限样本性能，其中常数依赖于维度和光滑性参数。