[논문 리뷰] Minimum Cost Flows, MDPs, and $\ell_1$-Regression in Nearly Linear Time for Dense Instances

Jan van den Brand, Yin Tat Lee외 5명|arXiv (Cornell University)|2021. 01. 14.

Complexity and Algorithms in Graphs참고 문헌 87인용 수 14

한 줄 요약

이 논문은 조밀한 인스턴스에 대해 최소 비용 유량, ℓ1-회귀, 할인된 마르코프 결정 과정(DMDPs)을 거의 선형 시간에 해결하는 랜덤화된 알고리즘을 제시한다. 거의 제곱근 수준의 반복 횟수를 가진 새로운 내부점 방법과 정규화된 루이지 무게를 위한 동적 데이터 구조를 도입함으로써, 최소 비용 유량에 대해 eO(m + n^1.5) 시간, ℓ1-회귀에 대해 eO(mn + n^2.5) 시간을 달성하며, 이는 이전 방법들보다 문제 매개변수에 대한 다항로그적 의존성의 영향을 크게 감소시킨다.

ABSTRACT

In this paper we provide new randomized algorithms with improved runtimes for solving linear programs with two-sided constraints. In the special case of the minimum cost flow problem on $n$-vertex $m$-edge graphs with integer polynomially-bounded costs and capacities we obtain a randomized method which solves the problem in $ ilde{O}(m+n^{1.5})$ time. This improves upon the previous best runtime of $ ilde{O}(m\sqrt{n})$ (Lee-Sidford 2014) and, in the special case of unit-capacity maximum flow, improves upon the previous best runtimes of $m^{4/3+o(1)}$ (Liu-Sidford 2020, Kathuria 2020) and $ ilde{O}(m\sqrt{n})$ (Lee-Sidford 2014) for sufficiently dense graphs. For $\ell_1$-regression in a matrix with $n$-columns and $m$-rows we obtain a randomized method which computes an $ε$-approximate solution in $ ilde{O}(mn+n^{2.5})$ time. This yields a randomized method which computes an $ε$-optimal policy of a discounted Markov Decision Process with $S$ states and $A$ actions per state in time $ ilde{O}(S^2A+S^{2.5})$. These methods improve upon the previous best runtimes of methods which depend polylogarithmically on problem parameters, which were $ ilde{O}(mn^{1.5})$ (Lee-Sidford 2015) and $ ilde{O}(S^{2.5}A)$ (Lee-Sidford 2014, Sidford-Wang-Wu-Ye 2018). To obtain this result we introduce two new algorithmic tools of independent interest. First, we design a new general interior point method for solving linear programs with two sided constraints which combines techniques from (Lee-Song-Zhang 2019, Brand et al. 2020) to obtain a robust stochastic method with iteration count nearly the square root of the smaller dimension. Second, to implement this method we provide dynamic data structures for efficiently maintaining approximations to variants of Lewis-weights, a fundamental importance measure for matrices which generalize leverage scores and effective resistances.

연구 동기 및 목표

• 특히 조밀한 그래프 및 행렬 환경에서 이원 제약 조건을 가진 선형 프로그래밍 문제를 더 빠르게 해결하기 위한 알고리즘 개발.
• 이전의 다항로그적 의존성에 비해 문제 매개변수에 대한 다항로그적 의존성을 초월한 최소 비용 유량, ℓ1-회귀, 할인된 마르코프 결정 과정(DMDPs)의 런타임 경계 향상.
• 더 작은 차원의 제곱근 수준에 가까운 반복 횟수를 가진 새로운 내부점 방법(IPM) 설계를 통한 수렴 안정성 향상.
• 정규화된 루이지 무게의 근사치를 효율적으로 유지하는 동적 데이터 구조 설계 — 이는 리지드 스코어 및 효과적 저항의 일반화이다.
• 이전 방법들이 더 높은 다항식 또는 다항로그적 오버헤드를 가졌던 조밀한 인스턴스에서 거의 선형 시간 알고리즘 달성.

제안 방법

• n차원 문제에 대해 거의 √n회의 반복을 달성하는 새로운 강력한 스토하스틱 내부점 방법(IPM)을 도입하며, [LSZ19]와 [BLN+20]의 기법을 융합한다.
• IPM 반복 과정 중에 효율적인 업데이트를 가능하게 하는 정규화된 루이지 무게의 근사치를 유지하는 동적 데이터 구조를 개발한다.
• 이중 변수와 중심성 측정치와 같은 IPM의 핵심 양상을 효율적으로 추정하고 유지하기 위해 샘플링 기반 기법을 적용한다.
• 경로 추종 기법을 적용하여 IPM 프레임워크 내에서 중심 경로를 추적함으로써 ǫ-최적 해에 수렴하도록 보장한다.
• DMDP 및 ℓ1-회귀 문제를 선형 프로그래밍 문제로 환원하고, 새로운 IPM 및 데이터 구조를 활용하여 거의 최적의 런타임을 달성한다.
• 입력 행렬 크기가 O(|S|²|A|)가 되는 변환된 선형 프로그래밍 문제를 통한 DMDP에서 ℓ1-회귀로의 환원을 적용함으로써, 거의 선형 시간 내에 해를 구할 수 있다.

실험 결과

연구 질문

• RQ1 조밀한 그래프에서 최소 비용 유량에 대해 이전의 O(m√n) 경계를 초월하여 거의 선형 시간 알고리즘을 달성할 수 있는가?
• RQ2 조밀한 행렬에 대해 입력 크기의 거의 선형 시간 내에 ℓ1-회귀를 해결할 수 있는가, 특히 eO(mn + n^2.5) 시간 내에?
• RQ3 상태 수와 행동 수에 대해 거의 선형 시간 내에 DMDP의 ǫ-최적 정책을 계산할 수 있는가, 이 때 1/ε 및 1/(1−γ)에 대한 로그적 의존성 포함?
• RQ4 문제 조건 수치에 독립적으로 거의 √n회의 반복 횟수를 가지는 강력한 내부점 방법을 설계할 수 있는가?
• RQ5 IPM에서 사용 가능한 정규화된 루이지 무게를 거의 최적의 업데이트 및 쿼리 시간으로 동적으로 유지할 수 있는가?

주요 결과

• 정수 비용 및 용량이 다항식적으로 유계인 n정점, m간선 그래프에서 최소 비용 유량에 대해 eO(m + n^1.5) 시간 알고리즘을 달성하며, 이는 이전의 eO(m√n) 경계를 향상시킨다.
• m×n 행렬에서의 ℓ1-회귀에 대해, 알고리즘은 ǫ-근사 해를 eO(mn + n^2.5) 시간 내에 계산하며, 이는 이전의 eO(mn^1.5) 경계를 향상시킨다.
• S개 상태와 상태당 A개 행동을 가진 DMDP에 대해, ǫ-최적 정책을 eO(S²A + S^2.5) 시간 내에 계산하며, 이는 이전의 eO(S^2.5A) 경계를 향상시킨다.
• 새로운 내부점 방법은 작은 차원의 제곱근 수준에 가까운 반복 횟수를 달성하며, 표준 IPM에 비해 반복 횟수를 크게 감소시킨다.
• 정규화된 루이지 무게를 위한 동적 데이터 구조는 효율적인 업데이트 및 쿼리 기능을 지원하여 전체 알고리즘의 거의 선형 시간 성능을 가능하게 한다.
• DMDP 환경에서 1/ε, 1/(1−γ), M에 대한 로그적 의존성을 달성하며, 이는 이러한 모든 종류의 의존성이 로그 수준에 머무르는 첫 번째 거의 선형 시간 방법이다.