[论文解读] A Semismooth Newton Method for Fast, Generic Convex Programming
本文提出 Newton-ADMM，一种用于凸锥优化的快速、通用求解器，通过将交替方向乘子法（ADMM）与半光滑牛顿法结合，实现二次收敛。通过将 ADMM 迭代重述为固定点方程，并应用非光滑牛顿迭代，该方法在保持低调参需求和不可行性认证能力的同时，显著加速了收敛速度。
We introduce Newton-ADMM, a method for fast conic optimization. The basic idea is to view the residuals of consecutive iterates generated by the alternating direction method of multipliers (ADMM) as a set of fixed point equations, and then use a nonsmooth Newton method to find a solution; we apply the basic idea to the Splitting Cone Solver (SCS), a state-of-the-art method for solving generic conic optimization problems. We demonstrate theoretically, by extending the theory of semismooth operators, that Newton-ADMM converges rapidly (i.e., quadratically) to a solution; empirically, Newton-ADMM is significantly faster than SCS on a number of problems. The method also has essentially no tuning parameters, generates certificates of primal or dual infeasibility, when appropriate, and can be specialized to solve specific convex problems.
研究动机与目标
- 开发一种快速、可扩展且通用的凸锥优化问题求解器。
- 克服标准 ADMM 方法在实现高精度时收敛缓慢的问题。
- 利用半光滑牛顿法加速收敛，同时保持 ADMM 的鲁棒性与不可行性检测能力。
- 提供一种用户调参极少的方法，同时保持对偶性证书，并适用于多种锥优化问题类型。
提出的方法
- 将 ADMM 固定点迭代重述为一组非光滑方程组。
- 应用截断的半光滑牛顿法求解固定点方程，实现超线性收敛。
- 基于半光滑算子理论，在正则性条件下证明二次收敛性。
- 将该方法集成到分裂锥求解器（SCS）框架中，以保持其可扩展性与不可行性检测能力。
- 为来自锥约束（包括指数锥）的非光滑算子构造广义雅可比矩阵。
- 确保方法具有鲁棒性，避免线搜索或大量参数调优。
实验结果
研究问题
- RQ1能否有效将半光滑牛顿法应用于加速通用凸锥优化问题的 ADMM？
- RQ2所提出的 Newton-ADMM 方法在实践中是否如理论预测的那样实现二次收敛？
- RQ3在基准问题上，Newton-ADMM 与原始 SCS 求解器相比在速度和精度方面表现如何？
- RQ4该方法能否可靠检测原始或对偶不可行性，以满足实际应用需求？
- RQ5与标准 ADMM 或内点法相比，Newton-ADMM 在多大程度上减少了用户调参需求？
主要发现
- 在正则性条件下，Newton-ADMM 实现二次收敛，显著快于标准 ADMM 的线性收敛速度。
- 实验结果表明，Newton-ADMM 在一系列凸锥优化问题（包括线性规划、二阶锥规划和半定规划）上显著快于 SCS。
- 该方法几乎无需调参参数，因此在各种问题实例中均表现出良好的用户友好性与鲁棒性。
- Newton-ADMM 保留了生成原始或对偶不可行性证书的能力，这对诊断模型错误至关重要。
- 该方法可针对特定凸问题高效定制，展现出其通用性与适应性。
- 理论分析将半光滑算子理论拓展至锥优化领域，为该方法的收敛行为提供了严格的理论基础。
更好的研究，从现在开始
从阅读论文到最终审阅，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。