[论文解读] Exact and Stable Recovery of Rotations for Robust Synchronization

Lanhui Wang, Amit Singer|arXiv (Cornell University)|Nov 11, 2012

Sparse and Compressive Sensing Techniques参考文献 33被引用 7

一句话总结

该论文提出了一种基于最小未平方偏差（LUD）的鲁棒旋转同步方法，通过凸半定规划松弛和交替方向乘乘法（ADMM）实现。该方法在存在噪声和稀疏测量图的情况下，证明了旋转的精确且稳定的恢复，展示了恢复精度随噪声比例变化的相变行为，优于传统的最小二乘方法。

ABSTRACT

The synchronization problem over the special orthogonal group $SO(d)$ consists of estimating a set of unknown rotations $R_1,R_2,...,R_n$ from noisy measurements of a subset of their pairwise ratios $R_{i}^{-1}R_{j}$. The problem has found applications in computer vision, computer graphics, and sensor network localization, among others. Its least squares solution can be approximated by either spectral relaxation or semidefinite programming followed by a rounding procedure, analogous to the approximation algorithms of extsc{Max-Cut}. The contribution of this paper is three-fold: First, we introduce a robust penalty function involving the sum of unsquared deviations and derive a relaxation that leads to a convex optimization problem; Second, we apply the alternating direction method to minimize the penalty function; Finally, under a specific model of the measurement noise and for both complete and random measurement graphs, we prove that the rotations are exactly and stably recovered, exhibiting a phase transition behavior in terms of the proportion of noisy measurements. Numerical simulations confirm the phase transition behavior for our method as well as its improved accuracy compared to existing methods.

研究动机与目标

• 解决最小二乘方法在旋转同步中的局限性，这些方法对成对比率测量中的异常值和噪声敏感。
• 开发一种更鲁棒的优化框架，通过最小化未平方残差而非平方残差，以提高稳定性和准确性。
• 建立在存在噪声和不完整测量条件下，旋转可被精确且稳定恢复的理论条件。
• 设计一种结合半定规划松弛和ADMM的高效算法，实现可扩展且稳定的恢复。
• 通过数值模拟验证该方法的优越性，展示更高的准确性和相变行为。

提出的方法

• 引入一种基于未平方偏差之和（LUD）的鲁棒惩罚函数，以降低旋转比率测量中对异常值的敏感性。
• 通过半定规划（SDP）推导出非凸LUD最小化问题的凸松弛。
• 应用交替方向乘乘法（ADMM）高效求解松弛后的凸优化问题。
• 通过将旋转偏差矩阵分解为对角和非对角部分，分析稳定性和恢复条件。
• 采用概率集中不等式和谱分析，界定误差项并推导恢复保证。
• 通过涉及对偶变量和残差幅度阈值化机制的对偶论证，建立恢复条件。

实验结果

研究问题

• RQ1 旋转同步的最小未平方偏差（LUD）问题的凸松弛是否能在存在噪声测量的情况下实现精确恢复？
• RQ2 所提出的方法是否随噪声测量比例变化而表现出恢复精度的相变？
• RQ3 与传统的最小二乘法和谱松弛方法相比，基于LUD的方法在鲁棒性和准确性方面表现如何？
• RQ4 在何种条件下，解对测量图中的小扰动具有稳定性？
• RQ5 基于ADMM的算法能否在大规模问题上高效求解松弛后的LUD问题，并具备理论收敛保证？

主要发现

• 当测量图完全且噪声水平低于临界阈值时，所提出的基于LUD的方法可实现旋转的精确恢复，且恢复精度表现出尖锐的相变。
• 对于随机测量图，当边密度超过临界阈值时，该方法可证明实现精确且稳定的旋转恢复，且随着节点数增加，恢复概率趋近于1。
• 在数值模拟中，该方法在高噪声或异常值存在的情况下，相比现有最小二乘法和谱松弛方法表现出更高的准确性。
• 理论分析表明，恢复误差的量级为 $\mathcal{O}_P(\sqrt{n}\epsilon)$，其中 $\epsilon$ 为噪声水平，表明在有界噪声下具有稳定的恢复性能。
• ADMM算法能高效收敛至解，其经验收敛速率在大规模实例上优于标准SDP求解器。
• 该方法对稀疏和噪声测量具有鲁棒性，恢复成功率取决于内点测量的比例，而非绝对噪声幅度。