[论文解读] Exact Minimax Estimation for Phase Synchronization

Chao Gao, Anderson Y. Zhang|arXiv (Cornell University)|Oct 9, 2020

Blind Source Separation Techniques参考文献 8被引用 7

一句话总结

本文在存在噪声且仅部分观测到复数成对测量值的条件下，确定了相位同步的精确极小极大风险。证明了最大似然估计器和广义幂方法均达到最优误差界 $(1+o(1))\frac{\sigma^2}{2p}$，从而确认 $\frac{\sigma^2}{2p}$ 为在全局相位不变性下的平方 $\ell_2$ 损失下的精确渐近极小极大误差。

ABSTRACT

We study the phase synchronization problem with measurements $Y=z^*z^{*H}+σW\in\mathbb{C}^{n imes n}$, where $z^*$ is an $n$-dimensional complex unit-modulus vector and $W$ is a complex-valued Gaussian random matrix. It is assumed that each entry $Y_{jk}$ is observed with probability $p$. We prove that the minimax lower bound of estimating $z^*$ under the squared $\ell_2$ loss is $(1-o(1))\frac{σ^2}{2p}$. We also show that both generalized power method and maximum likelihood estimator achieve the error bound $(1+o(1))\frac{σ^2}{2p}$. Thus, $\frac{σ^2}{2p}$ is the exact asymptotic minimax error of the problem. Our upper bound analysis involves a precise characterization of the statistical property of the power iteration. The lower bound is derived through an application of van Trees' inequality.

研究动机与目标

• 确定从噪声且部分观测到的成对相位差中估计复数单位模向量的精确极小极大风险。
• 填补对相位同步基本统计极限理解的空白，超越仅适用于无偏估计器的 Cramér-Rao 下界。
• 确立最大似然估计器（MLE）和广义幂方法（GPM）在正确主导常数下达到精确极小极大速率。
• 在观测随机缺失（概率为 $p$）的条件下分析 MLE 和 GPM 的统计性能，将先前结果推广至更现实的模型。

提出的方法

• 利用 van Trees 不等式推导极小极大下界，该不等式适用于有偏和无偏估计器，损失函数为 $\ell(\widehat{z}, z^*) = \min_{a \in \mathbb{C}_1} \sum_{j=1}^n |\widehat{z}_j a - z_j^*|^2$。
• 通过精确刻画幂迭代的统计行为，特别是其收敛性和误差传播，分析广义幂方法（GPM）。
• 利用矩阵集中不等式，对随机采样概率为 $p$ 时，观测噪声矩阵与其期望之间的差的算子范数进行有界。
• 对两个秩一矩阵 $\widehat{z}\widehat{z}^H$ 和 $z^*{z^*}^H$ 的差进行谱分解，通过算子范数有界控制弗罗贝尼乌斯范数。
• 通过将估计损失与矩阵差的弗罗贝尼乌斯范数关联，结合集中与谱性质，建立 MLE 和 GPM 的高概率误差界。
• 考虑仅观测到部分条目（比例为 $p$）的情形，通过 i.i.d. 伯努利随机图 $A_{jk} \sim \text{Bernoulli}(p)$ 建模观测过程，并推导出与 $1/p$ 成比例的界。

实验结果

研究问题

• RQ1 在全局相位不变性下的平方 $\ell_2$ 损失中，相位同步的精确极小极大风险是什么？
• RQ2 最大似然估计器（MLE）和广义幂方法（GPM）能否在正确主导常数下达到精确极小极大速率？
• RQ3 观测缺失（概率为 $p$）的存在如何影响相位同步的基本统计极限？
• RQ4 在非 i.i.d. 且非正则的估计设定下，van Trees 不等式是否能提供比 Cramér-Rao 下界更紧的极小极大下界？
• RQ5 在何种条件下，半定规划（SDP）松弛能产生与 MLE 匹配的秩一解？

主要发现

• 在损失 $\ell(\widehat{z}, z^*)$ 下估计 $z^* \in \mathbb{C}_1^n$ 的极小极大下界为 $(1-o(1))\frac{\sigma^2}{2p}$，通过 van Trees 不等式推导得出。
• 最大似然估计器（MLE）在 $\sigma^2 = o(n)$ 条件下以高概率实现误差界 $\ell(\widehat{z}, z^*) \leq (1+o(1))\frac{\sigma^2}{2p}$。
• 广义幂方法（GPM）在相同条件下也以高概率实现误差界 $\ell(\widehat{z}, z^*) \leq (1+o(1))\frac{\sigma^2}{2p}$。
• 精确渐近极小极大误差为 $\frac{\sigma^2}{2p}$，意味着 MLE 和 GPM 不仅达到最优速率，而且精确达到极小极大性能，实现了正确的主导常数。
• 在更强条件 $\sigma^2 = O(n / \log n)$ 下，半定规划（SDP）松弛实现与 MLE 相同的最优误差界，因其在此参数范围内与 MLE 等价。
• 通过集中不等式 $\|A \circ W\|_{\rm op}$ 和 $\|A - \mathbb{E}A\|_{\rm op}$，推导出矩阵差 $\|\widehat{z}\widehat{z}^H - z^*{z^*}^H\|_F^2$ 的高概率界，得到 $O((\sigma^2 + 1)/p)$ 的缩放形式。