[论文解读] Minimum Cost Flows, MDPs, and $\ell_1$-Regression in Nearly Linear Time for Dense Instances

Jan van den Brand, Yin Tat Lee+5 more|arXiv (Cornell University)|Jan 14, 2021

Complexity and Algorithms in Graphs参考文献 87被引用 14

一句话总结

本文提出了一种随机化算法，可在密集实例下以近乎线性时间求解最小费用循环流、ℓ1-回归和折扣马尔可夫决策过程（DMDPs）。通过引入一种新型内点法（IPM），其迭代次数接近平方根级别，并结合用于正则化Lewis权重的动态数据结构，该算法在最小费用循环流问题上达到 eO(m + n^1.5) 时间，在ℓ1-回归问题上达到 eO(mn + n^2.5) 时间，显著优于以往方法中对参数的多对数依赖关系。

ABSTRACT

In this paper we provide new randomized algorithms with improved runtimes for solving linear programs with two-sided constraints. In the special case of the minimum cost flow problem on $n$-vertex $m$-edge graphs with integer polynomially-bounded costs and capacities we obtain a randomized method which solves the problem in $ ilde{O}(m+n^{1.5})$ time. This improves upon the previous best runtime of $ ilde{O}(m\sqrt{n})$ (Lee-Sidford 2014) and, in the special case of unit-capacity maximum flow, improves upon the previous best runtimes of $m^{4/3+o(1)}$ (Liu-Sidford 2020, Kathuria 2020) and $ ilde{O}(m\sqrt{n})$ (Lee-Sidford 2014) for sufficiently dense graphs. For $\ell_1$-regression in a matrix with $n$-columns and $m$-rows we obtain a randomized method which computes an $ε$-approximate solution in $ ilde{O}(mn+n^{2.5})$ time. This yields a randomized method which computes an $ε$-optimal policy of a discounted Markov Decision Process with $S$ states and $A$ actions per state in time $ ilde{O}(S^2A+S^{2.5})$. These methods improve upon the previous best runtimes of methods which depend polylogarithmically on problem parameters, which were $ ilde{O}(mn^{1.5})$ (Lee-Sidford 2015) and $ ilde{O}(S^{2.5}A)$ (Lee-Sidford 2014, Sidford-Wang-Wu-Ye 2018). To obtain this result we introduce two new algorithmic tools of independent interest. First, we design a new general interior point method for solving linear programs with two sided constraints which combines techniques from (Lee-Song-Zhang 2019, Brand et al. 2020) to obtain a robust stochastic method with iteration count nearly the square root of the smaller dimension. Second, to implement this method we provide dynamic data structures for efficiently maintaining approximations to variants of Lewis-weights, a fundamental importance measure for matrices which generalize leverage scores and effective resistances.

研究动机与目标

• 为具有双边约束的线性规划问题开发更快的算法，特别是在密集图和矩阵设置下。
• 在最小费用循环流、ℓ1-回归和折扣马尔可夫决策过程（DMDPs）上改进运行时间界，超越以往对问题参数的多对数依赖。
• 设计一种新的内点法（IPM），其迭代次数接近较小维度的平方根，从而增强收敛鲁棒性。
• 构建动态数据结构，以高效维护正则化Lewis权重的近似值，后者是杠杆度量和有效电阻的推广。
• 为密集实例实现近乎线性时间的算法，其中以往方法存在更高的多项式或对数复杂度。

提出的方法

• 提出一种新型稳健的随机内点法（IPM），结合了[LSZ19]和[BLN+20]的技术，实现n维问题下接近√n次迭代。
• 设计用于维护正则化Lewis权重近似值的动态数据结构，支持IPM迭代过程中的高效更新。
• 采用采样方案，以高效估计和维护IPM中的关键量，如对偶变量和中心性度量。
• 应用路径跟踪技术，在IPM框架中追踪中心路径，确保收敛至ǫ-最优解。
• 将DMDP和ℓ1-回归问题约化为线性规划问题，并利用新IPM和数据结构实现近似最优运行时间。
• 通过变换后的线性规划，将DMDP约化为ℓ1-回归问题，其中输入矩阵规模为O(|S|²|A|)，从而实现近乎线性时间求解。

实验结果

研究问题

• RQ1 我们能否在密集图中实现最小费用循环流的近乎线性时间算法，超越O(m√n)的界？
• RQ2 我们能否在输入规模上实现近乎线性时间的ℓ1-回归求解，具体为稠密矩阵下的eO(mn + n^2.5)？
• RQ3 我们能否在状态数和动作数上实现近乎线性时间计算DMDP的ǫ-最优策略，且对1/ε和1/(1−γ)具有对数依赖？
• RQ4 我们能否设计一种稳健的内点法，其迭代次数接近√n，且独立于问题条件数？
• RQ5 我们能否以近乎最优的更新和查询时间，动态维护正则化Lewis权重，以用于IPM？

主要发现

• 该算法在具有整数多项式有界费用和容量的n个顶点、m条边的图上，实现了eO(m + n^1.5)时间的最小费用循环流求解，优于先前的eO(m√n)界。
• 对于m×n矩阵中的ℓ1-回归，该算法在eO(mn + n^2.5)时间内计算出ǫ-近似解，优于先前的eO(mn^1.5)界。
• 该算法在S个状态和每个状态A个动作的DMDP中，以eO(S²A + S^2.5)时间计算出ǫ-最优策略，优于先前的eO(S^2.5A)界。
• 新内点法实现了接近√n次迭代，其中n为较小维度，与标准IPM相比显著减少了迭代次数。
• 用于正则化Lewis权重的动态数据结构支持高效的更新与查询，从而在整体算法中实现近乎线性时间性能。
• 该算法在DMDP设置中对1/ε、1/(1−γ)和M均实现对数依赖，是首个在所有此类依赖上均实现对数复杂度的近乎线性时间方法。