[论文解读] A Polynomial-Time Affine-Scaling Method for Semidefinite and Hyperbolic Programming

James Renegar, Mutiara Sondjaja|arXiv (Cornell University)|Oct 24, 2014

Advanced Optimization Algorithms Research参考文献 18被引用 4

一句话总结

本文提出了一种用于半定规划和双曲规划的多项式时间仿射尺度方法，该方法将迪金原始算法扩展至对称锥之外。通过使用一种新型障碍函数，并利用二次多项式对中心路径进行有理逼近，该方法在不依赖对称性的情况下实现了最佳已知复杂度界，标志着首个针对非对称锥（如双曲性锥）的多项式时间仿射尺度算法。

ABSTRACT

We develop a natural variant of Dikin's affine-scaling method, first for semidefinite programming and then for hyperbolic programming in general. We match the best complexity bounds known for interior-point methods. All previous polynomial-time affine-scaling algorithms have been for conic optimization problems in which the underlying cone is symmetric. Hyperbolicity cones, however, need not be symmetric. Our algorithm is the first polynomial-time affine-scaling method not relying on symmetry.

研究动机与目标

• 将迪金的仿射尺度方法推广至对称锥之外，应用于双曲规划。
• 为半定规划和双曲规划开发一种多项式时间算法，其复杂度界与目前已知最优的内点法相当。
• 消除对对称锥性质的依赖，而这些性质在所有先前的多项式时间仿射尺度方法中都是关键要素。
• 提供一种计算高效且概念简洁的算法，将仿射尺度思想推广至非对称锥优化。
• 通过新型障碍函数与中心路径的有理逼近，建立理论收敛保证。

提出的方法

• 通过将线性规划的障碍函数替换为双曲多项式的对数障碍函数 $ f(x) = -\ln p(x) $，对迪金的仿射尺度框架进行适应。
• 定义一种基于 $ \|\cdot\|_e $-范数的新椭球邻域，其中 $ \|v\|_e^2 = \sum_j \frac{v_j^2}{e_j^2} $，以将迭代点约束在以当前迭代点为中心的迪金型椭球内。
• 通过基于赫尔顿-维尼科夫定理导出的二次多项式 $ \tilde{q}(t) $ 进行步长计算，以确保对偶可行性并控制进展。
• 利用二次多项式对中心路径进行有理逼近，以确保下一个迭代点保持在可行域内部。
• 采用一种改进的基于障碍的搜索方向，以保持可行性并确保障碍函数的充分下降。
• 采用基于多项式 $ \tilde{q}(t) $ 的线搜索策略，以确定一个能保证向最优解推进且保持可行性的步长。

实验结果

研究问题

• RQ1 迪金的仿射尺度方法能否在不牺牲多项式时间复杂度的前提下，推广至非对称锥（如双曲性锥）？
• RQ2 是否可能通过完全基于仿射尺度的方法（避免原始-对偶路径跟踪）实现半定规划和双曲规划的最佳已知复杂度界？
• RQ3 能否利用二次多项式构造中心路径的有理逼近，以确保对偶可行性与收敛性？
• RQ4 双曲性锥中缺乏对称性是否意味着无法使用仿射尺度方法？或者能否通过替代障碍函数与步长规则恢复多项式时间性能？
• RQ5 关键不等式 $ \tilde{q}(t) < \frac{1}{n - \beta^2} $ 是否可用于定义计算高效且全局收敛的步长选择规则？

主要发现

• 所提算法在半定规划和双曲规划中实现了最佳已知的多项式时间复杂度界，与标准内点法的复杂度界一致。
• 该方法是首个无需依赖底层锥为对称的双曲规划多项式时间仿射尺度算法。
• 使用障碍函数 $ f(x) = -\ln p(x) $ 和二次逼近 $ \tilde{q}(t) $，可确保下一个迭代点严格可行，并向最优解充分推进。
• 通过确保 $ \tilde{q}(t) < \frac{1}{n - \beta^2} $，该算法维持了对偶可行性，该条件足以保证收敛，且可高效验证。
• 证明依赖于赫尔顿-维尼科夫定理的创新应用，以推导出逼近中心路径的有理函数，从而实现可计算的步长计算。
• 该方法避免了对称锥或自洽障碍的需要，表明通过替代障碍函数与步长机制，多项式时间收敛是可实现的。