[论文解读] A Parallel Douglas Rachford Algorithm for Restoring Images with Values in Symmetric Hadamard Manifolds

Ronny Bergmann, Johannes Persch+1 more|arXiv (Cornell University)|Dec 9, 2015

Sparse and Compressive Sensing Techniques参考文献 43被引用 3

一句话总结

本文提出了一种并行 Douglas-Rachford 算法，用于在对称 Hadamard 流形上恢复图像，其值域为对称 Hadamard 流形，通过最小化类似总变差的泛函实现。该算法通过使用距离函数和指示函数的非扩张反射，将 Douglas-Rachford 算法扩展至具有非恒定曲率的黎曼流形，利用指数映射和对数映射实现高效的近端映射，实验表明其在对称正定矩阵等流形上的收敛性和性能优于现有方法。

ABSTRACT

We are interested in restoring images having values in a symmetric Hadamard manifold by minimizing a functional with a total variation like regularizing term. To solve the convex minimization problem, we extend the Douglas-Rachford algorithm and its parallel version to symmetric Hadamard manifolds. For the convergence proof we investigate the corresponding reflection operators. We prove that the reflections of certain distance functions on the manifold are nonexpansive which is an interesting result on its own. Furthermore, the reflection of the involved indicator function of a special closed convex set is nonexpansive on manifolds with constant curvature. The performance of the generalized Douglas-Rachford algorithm for our model is based on analytic expressions for the proximal mappings. It requires the evaluation of exponential and logarithmic functions which can be done efficiently. Several numerical examples demonstrate the advantageous performance of the suggested algorithm compared to other existing methods as the cyclic proximal point algorithm or half-quadratic minimization. Numerical convergence is also observed for the manifold of symmetric positive definite matrices with the affine invariant metric which does not have a constant curvature.

研究动机与目标

• 解决位于对称 Hadamard 流形（如对称正定矩阵）上的图像恢复问题，其中标准欧氏方法失效。
• 开发一种适用于非欧几里得图像数据且具有总变差正则化的可扩展且收敛的优化算法。
• 将 Douglas-Rachford 算法扩展至具有非恒定曲率的黎曼流形，特别关注通过非扩张反射实现的收敛性。
• 提供利用指数映射和对数映射的近端映射的解析表达式，实现在对称 Hadamard 流形上的高效计算。
• 在数值实验中展示该算法相较于循环近端点法和半二次最小化方法的优越性。

提出的方法

• 该算法通过基于距离函数和闭凸集指示函数的反射算子，将经典 Douglas-Rachford 分裂法扩展至对称 Hadamard 流形。
• 证明了在具有常曲率的流形上，距离函数和指示函数的反射算子具有非扩张性，从而在适当条件下保证收敛性。
• 利用涉及指数映射和对数映射的闭式表达式计算近端映射，这些表达式在对称 Hadamard 流形上可高效计算。
• 提出 Douglas-Rachford 算法的并行变体，以加速收敛，尤其适用于大规模图像恢复问题。
• 该方法应用于具有仿射不变度量的对称正定矩阵流形，尽管该流形不具有常曲率。
• 尽管缺乏常曲率，仍观察到算法的数值收敛性，表明该方法具有鲁棒性。

实验结果

研究问题

• RQ1 能否将 Douglas-Rachford 算法推广至对称 Hadamard 流形，以实现具有总变差正则化的图像恢复？
• RQ2 在对称 Hadamard 流形上，特别是具有常曲率的流形上，距离函数和指示函数的反射算子是否具有非扩张性？
• RQ3 能否利用指数映射和对数映射推导出高效的近端映射，以实现在黎曼流形上的实际应用？
• RQ4 所提出的并行 Douglas-Rachford 算法在性能上与循环近端点法和半二次最小化方法相比如何？
• RQ5 该算法在缺乏常曲率的流形（如具有仿射不变度量的对称正定矩阵流形）上是否表现出数值收敛性？

主要发现

• 在对称 Hadamard 流形上，距离函数的反射具有非扩张性，这是优化黎曼流形的新颖结果，具有重要影响。
• 在具有常曲率的对称 Hadamard 流形上，闭凸集指示函数的反射具有非扩张性，支持收敛性保证。
• 在数值实验中，所提算法的收敛速度和图像恢复质量优于循环近端点算法和半二次最小化方法。
• 通过指数映射和对数映射实现的近端映射高效计算，使得该方法可在对称 Hadamard 流形（包括对称正定矩阵流形）上实际部署。
• 即使在具有仿射不变度量的对称正定矩阵流形上（该流形曲率非恒定），仍观察到算法的数值收敛性，表明其具有鲁棒性。
• 该算法的并行变体在非欧几里得域中的大规模图像恢复任务中表现出更好的可扩展性和性能。