[论文解读] On coverage and oracle radial rate of DDM-credible sets under excessive bias restriction

Eduard Belitser|arXiv (Cornell University)|Jul 20, 2014

Statistical Methods and Inference被引用 2

一句话总结

本文在一种称为过度偏差限制（EBR）的新正则性条件下，为逆问题中构建自适应、最优可信集提出了数据依赖度量（DDMs）。它在弱不适定模型中建立了经验贝叶斯后验的Oracle径向率与置信最优性，将自适应极小极大结果扩展至多个光滑度尺度。

ABSTRACT

For a general statistical model, we introduce the notion of data dependent measure (DDM) on the model parameter. Typical examples of DDM are the posterior distributions. Like for posteriors, the quality of a DDM is characterized by the contraction rate which we allow to be local, i.e., depending on the parameter. We construct confidence sets as DDM-credible sets and address the issue of optimality of such sets, via a trade-off between its size (the local radial rate) and its coverage probability. In the mildly ill-posed inverse signal-in-white-noise model, we construct a DDM as empirical Bayes posterior with respect to a certain prior, and define its (default) credible set. Then we introduce 'excessive bias restriction' (EBR), more general than 'self-similarity' and 'polished tail condition' recently studied in the literature. Under EBR, we establish the confidence optimality of our credible set with some local (oracle) radial rate. We also derive the oracle estimation inequality and the oracle DDM-contraction rate, non-asymptotically and uniformly in $\ell_2$. The obtained local results are more powerful than global: adaptive minimax results for a number of smoothness scales follow as consequence, in particular, the ones considered by Szabo, van der Vaart and van Zanten (2015).

研究动机与目标

• 开发一种通用框架，用于构建平衡覆盖概率与大小（径向率）的DDM-可信集，适用于统计模型。
• 解决在具有白噪声的弱不适定逆问题背景下可信集的最优性问题。
• 引入并证明过度偏差限制（EBR）作为比自相似性或抛光尾部条件更一般的正则性条件。
• 在EBR条件下，推导DDM收缩率与估计不等式在l²范数下一致的非渐近结果。
• 将自适应极小极大结果扩展至多个光滑度尺度，包括Szabo等人（2015）研究的尺度。

提出的方法

• 将数据依赖度量（DDM）定义为后验分布的推广，允许收缩率根据真实参数局部变化。
• 通过特定先验构造经验贝叶斯后验，以在逆信号-白噪声模型中定义默认可信集。
• 引入过度偏差限制（EBR）作为对参数空间的条件，推广了如自相似性等先前假设。
• 在EBR下建立可信集大小（径向率）与覆盖概率之间的权衡。
• 在EBR下推导DDM收缩率与估计误差的非渐近、l²范数一致界。
• 利用EBR条件证明所构造的可信集可实现Oracle径向率与置信最优性。

实验结果

研究问题

• RQ1 是否可以构建DDM-可信集，使其在逆问题中实现大小与覆盖概率之间的最优权衡？
• RQ2 与自相似性或抛光尾部条件等现有正则性条件相比，过度偏差限制（EBR）在一般性与适用性方面有何优势？
• RQ3 在EBR下，DDM-可信集在弱不适定模型中的最优局部径向率是什么？
• RQ4 是否可在EBR下推导DDM收缩与估计的非渐近、l²范数一致结果？
• RQ5 这些结果在多大程度上恢复或扩展了不同光滑度尺度下的自适应极小极大率？

主要发现

• 在过度偏差限制（EBR）下，所构造的DDM-可信集实现了Oracle径向率，即能最优适应真实参数的局部光滑度。
• 论文推导出DDM收缩率与估计误差在l²范数下一致的非渐近界，适用于整个参数空间。
• 在EBR下建立了可信集的置信最优性，即在给定局部光滑度下实现了覆盖与大小的最佳平衡。
• 结果推广并扩展了先前的自适应极小极大结果，包括Szabo、van der Vaart与van Zanten（2015）的研究，覆盖多个光滑度尺度。
• EBR条件被证明比自相似性与抛光尾部条件更具一般性，从而在逆问题中具有更广泛的应用潜力。
• 该框架支持自适应推断，无需全局光滑性假设，仅依赖于参数相关的局部行为。