[论文解读] Provably robust estimation of modulo 1 samples of a smooth function with applications to phase unwrapping

Mihai Cucuringu, Hemant Tyagi|arXiv (Cornell University)|Mar 9, 2018

Optical measurement and interference techniques参考文献 73被引用 12

一句话总结

本文提出了一种可证明鲁棒的去噪方法，用于对光滑函数的模1采样点进行去噪，采用角度嵌入与信赖域子问题松弛。该方法在对抗性噪声、高斯噪声和伯努利噪声模型下均具备理论保证，并实现了高效的相位解缠，即使在高噪声水平下也能以高精度恢复原始信号（仅存在全局偏移）。

ABSTRACT

Consider an unknown smooth function $f: [0,1]^d ightarrow \mathbb{R}$, and say we are given $n$ noisy mod 1 samples of $f$, i.e., $y_i = (f(x_i) + η_i)\mod 1$, for $x_i \in [0,1]^d$, where $η_i$ denotes the noise. Given the samples $(x_i,y_i)_{i=1}^{n}$, our goal is to recover smooth, robust estimates of the clean samples $f(x_i) \bmod 1$. We formulate a natural approach for solving this problem, which works with angular embeddings of the noisy mod 1 samples over the unit circle, inspired by the angular synchronization framework. This amounts to solving a smoothness regularized least-squares problem -- a quadratically constrained quadratic program (QCQP) -- where the variables are constrained to lie on the unit circle. Our approach is based on solving its relaxation, which is a trust-region sub-problem and hence solvable efficiently. We provide theoretical guarantees demonstrating its robustness to noise for adversarial, and random Gaussian and Bernoulli noise models. To the best of our knowledge, these are the first such theoretical results for this problem. We demonstrate the robustness and efficiency of our approach via extensive numerical simulations on synthetic data, along with a simple least-squares solution for the unwrapping stage, that recovers the original samples of $f$ (up to a global shift). It is shown to perform well at high levels of noise, when taking as input the denoised modulo $1$ samples. Finally, we also consider two other approaches for denoising the modulo 1 samples that leverage tools from Riemannian optimization on manifolds, including a Burer-Monteiro approach for a semidefinite programming relaxation of our formulation. For the two-dimensional version of the problem, which has applications in radar interferometry, we are able to solve instances of real-world data with a million sample points in under 10 seconds, on a personal laptop.

研究动机与目标

• 开发一种鲁棒的、基于平滑性正则化的去噪方法，用于从未知光滑函数的噪声观测中估计干净的模1采样点。
• 为该方法在对抗性噪声、高斯噪声和伯努利噪声等各类噪声模型下的鲁棒性提供理论保证。
• 通过先对模1采样点进行去噪，再重建原始信号（仅存在全局偏移），实现高效且准确的相位解缠。
• 将所提出的基于信赖域的方法与基于黎曼优化和半定规划松弛的替代方法进行比较。
• 在大规模问题上展示可扩展性，包括在10秒内处理超过一百万个点的真实InSAR数据。

提出的方法

• 将去噪问题建模为在单位圆上进行平滑性正则化的最小二乘优化，将模1采样点视为角度变量。
• 将非凸的二次约束二次规划（QCQP）松弛为信赖域子问题，可通过标准数值方法高效求解。
• 采用带有ℓ₂球/球面约束的信赖域子问题，以保持变量位于单位圆上，从而实现高效且稳定的优化。
• 在解缠阶段采用简单的最小二乘法，以恢复原始实值函数（仅存在全局偏移）。
• 探索了基于流形上黎曼优化的替代公式，以及半定规划松弛的Burer-Monteiro方法。
• 将该方法应用于二维相位解缠问题，展示了在包含高样本数的真实InSAR数据上的可扩展性。

实验结果

研究问题

• RQ1 对模1去噪的QCQP公式进行信赖域松弛，是否能在对抗性噪声下提供可证明的鲁棒性？
• RQ2 所提出的方法在高斯噪声和伯努利噪声模型下是否保持高精度，且该性能能否获得理论解释？
• RQ3 在准确性和速度方面，基于信赖域的方法相较于黎曼优化和半定规划松弛方法表现如何？
• RQ4 该方法是否能高效处理大规模问题，例如在实际时间限制内处理含百万量级样本的真实InSAR数据？
• RQ5 在高噪声水平下，应用于去噪后的模1采样点时，解缠阶段是否具有鲁棒性和准确性？

主要发现

• QCQP公式的信赖域松弛在对抗性噪声下实现了可证明的鲁棒性，理论保证通过浓度不等式推导得出。
• 该方法在高斯噪声和伯努利噪声模型下表现出强大的经验性能，去噪估计值与真实底层函数高度吻合。
• 在二维相位解缠问题中，该方法在个人笔记本电脑上处理高达一百万个点的真实InSAR数据时，耗时不足10秒。
• 由于其鲁棒的去噪阶段，该方法优于先前工作（如Bhandari等，2017年），尤其在高噪声环境下表现更优。
• 基于最小二乘回归的解缠步骤即使在去噪后的模1采样点仍存在噪声时，也能可靠地恢复原始信号（仅存在全局偏移）。
• 理论分析证实，该方法在任意有界噪声下均保持稳定与准确，误差界取决于噪声水平和底层函数的平滑性。