[论文解读] Classes of lower bounds on outage error probability and MSE in Bayesian parameter estimation

Tirza Routtenberg, Joseph Tabrikian|arXiv (Cornell University)|May 4, 2010

Direction-of-Arrival Estimation Techniques参考文献 16被引用 3

一句话总结

本文利用 Hölder 不等式，提出了一类新的关于贝叶斯参数估计中中断错误概率和均方误差（MSE）的下界。这些下界比 Ziv-Zakai 下界（ZZLB）更紧，并且在单峰对称似然函数下，该类中最紧的下界可达到最小中断错误概率和最小均方误差，从而在这些条件下提供了精确的性能极限。

ABSTRACT

In this paper, new classes of lower bounds on the outage error probability and on the mean-square-error (MSE) in Bayesian parameter estimation are proposed. The minima of the h-outage error probability and the MSE are obtained by the generalized maximum a-posteriori probability and the minimum MSE (MMSE) estimators, respectively. However, computation of these estimators and their corresponding performance is usually not tractable and thus, lower bounds on these terms can be very useful for performance analysis. The proposed class of lower bounds on the outage error probability is derived using Holder's inequality. This class is utilized to derive a new class of Bayesian MSE bounds. It is shown that for unimodal symmetric conditional probability density functions (pdf) the tightest probability of outage error lower bound in the proposed class attains the minimum probability of outage error and the tightest MSE bound coincides with the MMSE performance. In addition, it is shown that the proposed MSE bounds are always tighter than the Ziv-Zakai lower bound (ZZLB). The proposed bounds are compared with other existing performance lower bounds via some examples.

研究动机与目标

• 解决在贝叶斯估计中计算精确最小中断错误概率和 MMSE 的不可行性问题。
• 开发计算上可行的下界，以预测参数估计中的性能极限。
• 建立一个统一框架，通过概率恒等式将中断错误概率下界与 MSE 下界联系起来。
• 证明所提出的下界比现有基准更紧，尤其是 Ziv-Zakai 下界（ZZLB）。
• 确定下界达到理论最小性能的条件。

提出的方法

• 通过将 Hölder 不等式应用于后验密度，推导出一类新的关于中断错误概率的下界。
• 将中断错误概率转化为在长度为 h 的区间上对后验密度偏移最大值的期望。
• 引入一个依赖于 h-MAP 估计器和后验密度单峰对称性的参数化下界族 B_{h/2,1}^{(o)}。
• 利用文献 [14] 中的概率恒等式，从中断错误下界推导出一类新的 MSE 下界。
• 应用类似 Chebyshev 的变换，将中断错误下界与 MSE 联系起来，确保其比 ZZLB 更紧。
• 通过在参数空间上进行优化，识别出该类中最紧的下界，利用条件概率密度的对称性和单峰性。

实验结果

研究问题

• RQ1 能否利用 Hölder 不等式推导出一类比现有下界更紧的新中断错误概率下界？
• RQ2 在何种条件下，所提出的中断错误下界与可能的最小中断错误完全一致？
• RQ3 所提出的中断错误下界能否用于推导出比 Ziv-Zakai 下界（ZZLB）更紧的 MSE 下界？
• RQ4 所提出类中最为紧致的下界是否在单峰对称似然函数下达到 MMSE？
• RQ5 在实际估计场景中，所提出的下界与现有基准相比表现如何？

主要发现

• 所提出的中断错误概率下界比 Ziv-Zakai 下界（ZZLB）更紧，并且在单峰对称条件概率密度下，可达到最小可能的中断错误概率。
• 对于单峰对称似然函数，所提类中最为紧致的下界与 h-MAP 估计器实现的最小中断错误概率完全一致。
• 所推导的 MSE 下界始终比 Ziv-Zakai 下界（ZZLB）更紧，仅在退化情况下取等。
• 当条件概率密度为单峰且对称时，所提类中最为紧致的 MSE 下界达到最小均方误差（MMSE）。
• 所提下界在计算上比精确的 MMSE 或最小中断错误更简单，因此在性能分析中更具实用性。
• 这些下界通过 Hölder 不等式和概率恒等式的严格应用推导得出，确保在给定条件下具有数学上的紧致性。