[论文解读] An Efficient Polynomial Interior-Point Algorithm for Linear Programming

Yaguang Yang|arXiv (Cornell University)|Apr 12, 2013

Advanced Optimization Algorithms Research参考文献 15被引用 3

一句话总结

本文提出了一种用于线性规划的新 interior-point 算法，该算法在每次迭代中同时优化中心化参数和线搜索步长，以最小化对偶间隙。通过系统性地整合这些选择而非采用启发式方法，该算法实现了目前已知的最佳多项式复杂度界，并在 Netlib 测试问题上表现出卓越的计算效率，即使不使用校正步骤，其迭代次数也优于广泛使用的 Mehrotra 预测-校正方法。

ABSTRACT

For interior-point algorithms in linear programming, it is well-known that the selection of the centering parameter is crucial for proving polynomility in theory and for efficiency in practice. However, the selection of the centering parameter is usually by heuristics and separate from the selection of the line-search step size. The heuristics are quite different while developing practically efficient algorithms, such as MPC, and theoretically efficient algorithms, such as short-step path-following algorithm. This introduces a dilemma that some algorithms with the best-known polynomial bound are least efficient in practice, and some most efficient algorithms may not be polynomial. In this paper, we propose a systematic way to optimally select the centering parameter and line-search step size at the same time, and we show that the algorithm based on this strategy has the best-known polynomial bound and may be very efficient in computation for real problems.

研究动机与目标

• 解决 interior-point 方法中理论与实践之间的鸿沟，即具有强多项式界保证的算法效率低下，而高效算法缺乏多项式复杂度证明。
• 消除中心化参数与线搜索步长选择之间的启发式分离，这种分离削弱了理论保证和实际效率。
• 开发一种系统化、基于优化的策略，同时选择这两个参数，以最小化每次迭代的对偶间隙减少量。
• 证明这种统一的选择策略既能实现最佳已知的多项式复杂度界，又能在实际中保持高计算效率。

提出的方法

• 该算法将中心化参数 α 和线搜索步长 σ 的联合选择建模为一个优化子问题，以在每次迭代中最小化对偶间隙。
• 通过 KKT 系统的稀疏 QR 分解，推导出搜索方向的闭式表达式，从而实现对原始和对偶预测步骤的精确且高效计算。
• 该方法采用原始-对偶预测-校正框架，但省略了校正步骤，依赖于 α 和 σ 的最优选择以实现快速的对偶间隙减少。
• 采用预处理步骤计算一个初始可行点，使得 x = s = e，确保问题具有严格内点，符合 interior-point 方法的要求。
• 该算法在 MATLAB 中实现，使用一个名为 optimalAlphaSigma 的函数，在每次迭代中求解子问题以确定 α 和 σ。
• 通过利用 KKT 系统的结构，采用正交投影计算搜索方向，确保数值稳定性与精度，尤其在接近最优解时表现更佳。

实验结果

研究问题

• RQ1 系统性地联合优化中心化参数与线搜索步长，是否能同时提升 interior-point 方法的理论复杂度与实际效率？
• RQ2 若消除中心化与线搜索选择之间的启发式分离，是否能实现更快的收敛速度与更低的迭代次数？
• RQ3 若中心化参数与步长被最优选择，即使不使用校正步骤，算法是否仍能保持高效率？
• RQ4 所提出的方法是否既能实现最佳已知的多项式复杂度界，又在实际性能上保持竞争力？

主要发现

• 所提算法在线性规划中实现了最佳已知的多项式复杂度界，理论迭代次数为 O(√n log(1/ε))，用于求解 ε-最优解。
• 在 Netlib 测试问题上，该算法始终比 MATLAB 的 linprog（使用 Mehrotra 的预测-校正方法）需要更少的迭代次数，包括 AFIRO 仅需 4 次迭代（linprog 需 7 次），SCAGR25 仅需 5 次迭代（linprog 需 16 次）。
• 在除一个测试问题（SCTAP1）外的所有测试问题上，该算法均优于 linprog，尽管未使用校正步骤；在 SCTAP1 上两者均为 17 次迭代。
• 该方法表明，通过最优选择 α 和 σ，可实现每次迭代对偶间隙的显著减少，且无需因校正步骤带来额外计算开销。
• 数值结果表明，该算法在实际中极为高效，其迭代次数与当前最先进的实现相比具有竞争力或更优表现，尽管其设计侧重于理论优化。