[论文解读] Rescaling Algorithms for Linear Programming - Part I: Conic feasibility

Daniel Dadush, László A. Végh+1 more|arXiv (Cornell University)|Nov 19, 2016

Advanced Optimization Algorithms Research参考文献 26被引用 2

一句话总结

该论文提出了用于求解两类线性锥可行性问题的多项式时间重标度算法：在矩阵 A 的核或像中寻找一个正向量。通过迭代应用一阶步骤和几何势函数改进的重标度步骤，算法在核问题上的最坏情况时间复杂度为 O((m³n + mn²) log |ρ_A|⁻¹)，在像问题上的最坏情况时间复杂度为 O(m²n² log ρ_A⁻¹)，并通过比特大小复杂度模型扩展至退化情形。

ABSTRACT

We propose simple polynomial-time algorithms for two linear conic feasibility problems. For a matrix $A\in \mathbb{R}^{m imes n}$, the kernel problem requires a positive vector in the kernel of $A$, and the image problem requires a positive vector in the image of $A^ op$. Both algorithms iterate between simple first order steps and rescaling steps. These rescalings improve natural geometric potentials. If Goffin's condition measure $ ho_A$ is negative, then the kernel problem is feasible and the worst-case complexity of the kernel algorithm is $O\left((m^3n+mn^2)\log{| ho_A|^{-1}} ight)$; if $ ho_A>0$, then the image problem is feasible and the image algorithm runs in time $O\left(m^2n^2\log{ ho_A^{-1}} ight)$. We also extend the image algorithm to the oracle setting. We address the degenerate case $ ho_A=0$ by extending our algorithms to find maximum support nonnegative vectors in the kernel of $A$ and in the image of $A^ op$. In this case the running time bounds are expressed in the bit-size model of computation: for an input matrix $A$ with integer entries and total encoding length $L$, the maximum support kernel algorithm runs in time $O\left((m^3n+mn^2)L ight)$, while the maximum support image algorithm runs in time $O\left(m^2n^2L ight)$. The standard linear programming feasibility problem can be easily reduced to either maximum support problems, yielding polynomial-time algorithms for Linear Programming.

研究动机与目标

• 开发高效、多项式时间的算法，用于判断涉及矩阵 A 的核与像的线性锥可行性问题是否可行。
• 通过在核与像中寻找最大支撑的非负向量，解决 Goffin 条件度量 ρ_A = 0 的退化情形。
• 将像算法扩展至预言机计算模型，以提升其适用范围。
• 将标准线性规划可行性问题约化为最大支撑核与像问题，从而获得多项式时间的 LP 算法。

提出的方法

• 核算法在与核可行性相关的几何势函数改进的重标度步骤之间迭代执行一阶步骤。
• 像算法采用类似的迭代步骤，但目标是 A^T 的像，其重标度步骤旨在提升与像可行性相关的势函数。
• 重标度步骤被设计为改善控制收敛速度和可行性状态的条件度量 ρ_A。
• 对于退化情形（ρ_A = 0），通过比特大小复杂度模型将算法扩展至在核与像中寻找最大支撑的非负向量。
• 通过用查询替代显式矩阵访问，将算法适配至预言机模型，同时保持多项式时间性能。
• 复杂度界限通过 |ρ_A|⁻¹ 的对数依赖关系（非退化情形）以及整数矩阵在退化情形下的总编码长度 L 推导得出。

实验结果

研究问题

• RQ1 我们能否设计出一种多项式时间算法，用于判断给定矩阵 A 的核中是否存在一个正向量？
• RQ2 基于重标度的核可行性问题算法的最坏情况时间复杂度是多少？它如何依赖于条件度量 ρ_A？
• RQ3 如何高效求解像可行性问题？其时间复杂度如何以 ρ_A 表示？
• RQ4 能否在不牺牲多项式时间性能的前提下，将像算法扩展至预言机模型？
• RQ5 如何通过在核与像中寻找最大支撑的非负向量来处理退化情形 ρ_A = 0？

主要发现

• 当 ρ_A < 0 时，核可行性算法的时间复杂度为 O((m³n + mn²) log |ρ_A|⁻¹)，确保核问题的可行性。
• 当 ρ_A > 0 时，像可行性算法的时间复杂度为 O(m²n² log ρ_A⁻¹)，保证像问题的可行性。
• 对于 ρ_A = 0 且具有整数元素的退化矩阵，最大支撑核算法的时间复杂度为 O((m³n + mn²)L)，采用比特大小复杂度模型。
• 在相同的退化、整数矩阵条件下，最大支撑像算法的时间复杂度为 O(m²n²L)。
• 标准线性规划可行性问题可约化为最大支撑核或像问题，从而导出多项式时间的 LP 算法。
• 重标度机制能有效改进几何势函数，即使在病态或退化情形下也能实现收敛。