[논문 리뷰] Rescaling Algorithms for Linear Programming - Part I: Conic feasibility

Daniel Dadush, László A. Végh외 1명|arXiv (Cornell University)|2016. 11. 19.

Advanced Optimization Algorithms Research참고 문헌 26인용 수 2

한 줄 요약

이 논문은 행렬 A의 커널 또는 이미지에 양의 벡터가 존재하는지 확인하는 두 가지 선형 콘형 타당성 문제를 해결하기 위한 다항시간 스케일링 알고리즘을 제시한다. 반복적으로 일阶 단계와 기하학적 잠재함수 향상 스케일링 단계를 적용함으로써, 커널 문제의 경우 최악의 복잡도 상한선은 O((m³n + mn²) log |ρ_A|⁻¹)이며, 이미지 문제의 경우 O(m²n² log ρ_A⁻¹)이다. 비정상적인 경우는 비트 크기 복잡도 모델을 사용하여 확장된다.

ABSTRACT

We propose simple polynomial-time algorithms for two linear conic feasibility problems. For a matrix $A\in \mathbb{R}^{m imes n}$, the kernel problem requires a positive vector in the kernel of $A$, and the image problem requires a positive vector in the image of $A^ op$. Both algorithms iterate between simple first order steps and rescaling steps. These rescalings improve natural geometric potentials. If Goffin's condition measure $ ho_A$ is negative, then the kernel problem is feasible and the worst-case complexity of the kernel algorithm is $O\left((m^3n+mn^2)\log{| ho_A|^{-1}} ight)$; if $ ho_A>0$, then the image problem is feasible and the image algorithm runs in time $O\left(m^2n^2\log{ ho_A^{-1}} ight)$. We also extend the image algorithm to the oracle setting. We address the degenerate case $ ho_A=0$ by extending our algorithms to find maximum support nonnegative vectors in the kernel of $A$ and in the image of $A^ op$. In this case the running time bounds are expressed in the bit-size model of computation: for an input matrix $A$ with integer entries and total encoding length $L$, the maximum support kernel algorithm runs in time $O\left((m^3n+mn^2)L ight)$, while the maximum support image algorithm runs in time $O\left(m^2n^2L ight)$. The standard linear programming feasibility problem can be easily reduced to either maximum support problems, yielding polynomial-time algorithms for Linear Programming.

연구 동기 및 목표

• 행렬 A의 커널과 이미지에 관여하는 선형 콘형 타당성 문제의 타당성을 판단하기 위한 효율적이고 다항시간 알고리즘을 개발하기 위해.
• Goffin의 조건 수 측정치 ρ_A = 0 인 비정상적인 경우를 다루기 위해 커널과 이미지 내에서 최대 지지(nonnegative) 벡터를 찾기 위해.
• 더 넓은 적용 가능성을 위해 이미지 알고리즘을 오рак루 계산 모델로 확장하기 위해.
• 표준 선형계획법 타당성 문제를 최대 지지 커널 및 이미지 문제로 환원함으로써 다항시간 LP 알고리즘을 도출하기 위해.

제안 방법

• 커널 알고리즘은 커널 타당성과 관련된 기하학적 잠재함수를 향상시키는 스케일링 단계와 일阶 단계를 번갈아 적용한다.
• 이미지 알고리즘은 유사한 반복 단계를 사용하지만, A^T의 이미지를 대상으로 하며, 이미지 타당성과 연관된 잠재함수를 향상시키는 스케일링을 수행한다.
• 스케일링 단계는 수렴 속도와 타당성 상태를 결정하는 조건 수 ρ_A 를 향상시키기 위해 설계된다.
• 비정상적인 경우(ρ_A = 0)에 대해서는, 비트 크기 복잡도 모델을 사용하여 커널과 이미지 내에서 최대 지지 nonnegative 벡터를 찾기 위해 알고리즘을 확장한다.
• 명시적인 행렬 접근을 질의(query)로 대체함으로써 알고리즘을 오라클 모델에 적응시켜 다항시간 성능을 유지한다.
• 복잡도 상한선은 비정상적이지 않은 경우 |ρ_A|⁻¹ 에 대한 로그 의존성과 비정상적인 경우 정수 행렬의 총 인코딩 길이 L 에 대한 로그 의존성으로 유도된다.

실험 결과

연구 질문

• RQ1 주어진 행렬 A의 커널 내에 양의 벡터가 존재하는지 판단하기 위한 다항시간 알고리즘을 설계할 수 있는가?
• RQ2 커널 타당성 문제에 대한 스케일링 기반 알고리즘의 최악의 복잡도는 무엇이며, 조건 수 ρ_A 에 어떻게 의존하는가?
• RQ3 이미지 타당성 문제는 어떻게 효율적으로 해결할 수 있으며, ρ_A 에 따라 복잡도는 어떻게 되는가?
• RQ4 이미지 알고리즘은 다항시간 성능을 유지하면서 오라클 모델으로 확장할 수 있는가?
• RQ5 ρ_A = 0 인 비정상적인 경우에 커널과 이미지 내에서 최대 지지 nonnegative 벡터를 찾기 위해 어떻게 처리할 수 있는가?

주요 결과

• ρ_A < 0 인 경우 커널 타당성 알고리즘은 O((m³n + mn²) log |ρ_A|⁻¹) 시간 내에 수행되어 커널 문제의 타당성을 보장한다.
• ρ_A > 0 인 경우 이미지 타당성 알고리즘은 O(m²n² log ρ_A⁻¹) 시간 내에 수행되어 이미지 문제의 타당성을 보장한다.
• ρ_A = 0 이고 정수 요소를 가진 비정상적인 행렬의 경우 최대 지지 커널 알고리즘은 O((m³n + mn²)L) 시간 내에 비트 크기 복잡도 모델을 사용하여 수행된다.
• 동일한 비정상적이고 정수 요소를 가진 행렬 조건 하에서 최대 지지 이미지 알고리즘은 O(m²n²L) 시간 내에 수행된다.
• 표준 선형계획법 타당성 문제는 최대 지지 커널 또는 이미지 문제로 환원되며, 이에 따라 다항시간 LP 알고리즘이 도출된다.
• 스케일링 메커니즘은 기하학적 잠재함수를 효과적으로 향상시켜, 악조건이거나 비정상적인 설정에서도 수렴 가능하게 한다.