[논문 리뷰] Rounding Lasserre SDPs using column selection and spectrum-based approximation schemes for graph partitioning and Quadratic IPs

Venkatesan Guruswami, Ali Kemal Sinop|arXiv (Cornell University)|2013. 12. 11.

Complexity and Algorithms in Graphs참고 문헌 48인용 수 3

한 줄 요약

이 논문은 그래프 분할 문제와 이차 정수계획문제에 대해 개선된 근사 비율을 달성하기 위해 열 선택과 스펙트럼 근사법을 사용하는 Lasserre 계층의 새로운 반올림 기법을 제안한다. 이는 $n^{O(r/\varepsilon^2)}$ 시간 내에 $(1+\varepsilon)/\min\{1,\lambda_r\}$ 근사 비율을 달성하며, 여기서 $\lambda_r$ 는 정규화된 라플라시안의 $r$-번째로 작은 고유값이다. 이는 최소 이등분, 희소 컷, 유니크 게임과 같은 문제들에 있어 기존의 최고 수준의 성능을 크게 향상시킨다.

ABSTRACT

We present an approximation scheme for minimizing certain Quadratic Integer Programming problems with positive semidefinite objective functions and global linear constraints. This framework includes well known graph problems such as Minimum graph bisection, Edge expansion, Sparsest Cut, and Small Set expansion, as well as the Unique Games problem. These problems are notorious for the existence of huge gaps between the known algorithmic results and NP-hardness results. Our algorithm is based on rounding semidefinite programs from the Lasserre hierarchy, and the analysis uses bounds for low-rank approximations of a matrix in Frobenius norm using columns of the matrix. For all the above graph problems, we give an algorithm running in time $n^{O(r/ε^2)}$ with approximation ratio $\frac{1+ε}{\min\{1,λ_r\}}$, where $λ_r$ is the $r$'th smallest eigenvalue of the normalized graph Laplacian $\mathcal{L}$. In the case of graph bisection and small set expansion, the number of vertices in the cut is within lower-order terms of the stipulated bound. Our results imply $(1+O(ε))$ factor approximation in time $n^{O(r^\ast/ε^2)}$ where is the number of eigenvalues of $\mathcal{L}$ smaller than $1-ε$ (for variants of sparsest cut, $λ_{r^\ast} \ge \mathrm{OPT}/ε$ also suffices, and as $\mathrm{OPT}$ is usually $o(1)$ on interesting instances of these problems, this requirement on $r^\ast$ is typically weaker). For Unique Games, we give a factor $(1+\frac{2+ε}{λ_r})$ approximation for minimizing the number of unsatisfied constraints in $n^{O(r/ε)}$ time, improving upon an earlier bound for solving Unique Games on expanders. We also give an algorithm for independent sets in graphs that performs well when the Laplacian does not have too many eigenvalues bigger than $1+o(1)$.

연구 동기 및 목표

• 최소 이등분, 희소 컷, 소형 집합 확장과 같은 기본적인 그래프 분할 문제들에 대해 알려진 근사 알고리즘과 NP-난해성 하한 사이의 지속적인 격차를 메우기 위해.
• 양의 정부호 목적함수와 전역 선형 제약 조건을 가진 이차 정수계획문제를 근사화하기 위한 일반적 프레임워크를 개발하기 위해.
• Lasserre 계층이 스펙트럼 및 열 기반 반올림과 결합될 경우, 기존에 PTAS가 알려져 있지 않은 문제들에 대해서도 강력한 근사 보장을 제공할 수 있음을 보여주기 위해.
• 스펙트럼 성질이 이러한 문제들의 강력한 비근사 가능성 결과를 증명하기 어려운 이유를 이론적으로 설명하기 위해, 예를 들어 평면 그래프 또는 유한 트리너비를 가진 그래프처럼 스펙트럼이 느리게 증가하는 그래프는 좋은 알고리즘이 존재함을 보여주기 위해.

제안 방법

• 변수 간의 고차원 상관관계를 포착하기 위해 Lasserre 계층의 정수계획문을 사용하며, $r$-번째 수준에서 점점 더 타이트한 근사가 제공된다.
• SDP 해 행렬의 저랭크 근사에 기여도를 기반으로 대표 변수를 선택하는 새로운 열 선택 기반 반올림 전략을 적용한다.
• 열을 통한 저랭크 행렬 근사의 프로베니우스 노름에 대한 스펙트럼 경계를 사용하여 반올림 오차를 제어하며, 특히 정규화된 라플라시안의 $r$-번째로 작은 고유값 $\lambda_r$ 와 관련지어 분석한다.
• 체비셰프 및 마르코프 부등식을 사용한 확률적 분석을 통해 반올림된 해가 목표 값과 제약 조건에서 벗어나지 않도록 오차를 제한한다.
• 고정된 총 무게를 가진 컷과 같은 팩킹 제약 조건을 다루기 위해, 무작위 제약 조건 하에서 해의 분산을 분석하여 질량 집중을 보장하는 프레임워크를 도입한다.
• 실제 구현을 위해 [GS12a]에서 제안한 빠른 해법을 사용하여 실행 시간을 $2^{O(r/\varepsilon)}n^{O(1)}$ 로 감소시킨다.

실험 결과

연구 질문

• RQ1 표준 SDP가 실패할 수 있는 경우에도, Lasserre 계층이 효과적으로 반올림되어 최소 이등분 및 희소 컷과 같은 그래프 분할 문제에 대해 $(1+\varepsilon)$-근사가 가능할 수 있는가?
• RQ2 정규화된 라플라시안의 $r$-번째로 작은 고유값 $\lambda_r$ 는 SDP 기반 알고리즘의 근사 비율을 결정하는 데 어떤 역할을 하는가?
• RQ3 소형 집합 확장 및 유니크 게임과 같은 문제들에 대해 강력한 비근사 가능성 결과(예: APX-난이도)가 오랫동안 해소되지 않은 이유는 무엇이며, 스펙트럼 성질이 이를 설명할 수 있는가?
• RQ4 열 선택을 통한 스펙트럼 근사 기법을 사용하여 고차원 Lasserre SDP에 대해 효율적인 반올림 전략을 설계할 수 있는가?
• RQ5 정규화된 라플라시안에서 $1-\varepsilon$ 이하의 고유값 수가 알고리즘의 실행 시간과 근사 품질에 어떤 영향을 미치는가?

주요 결과

• 양의 정부호 목적함수를 가진 이차 정수계획문제에 대해, 알고리즘은 $\frac{1+\varepsilon}{\min\{1,\lambda_r\}}$ 근사 비율을 달성한다. 여기서 $\lambda_r$ 는 정규화된 그래프 라플라시안의 $r$-번째로 작은 고유값이다.
• 그래프 이등분 및 소형 집합 확장 문제에 대해 컷 크기는 요구되는 기준에 하위항 수준에서 포함되어 있어 구조적 타당성이 보장된다.
• 실행 시간은 $\lambda_r \geq \Omega(\varepsilon)$ 일 때 $(1+\varepsilon)$-근사에 대해 $n^{O(r/\varepsilon^2)}$ 이며, 빠른 해법을 사용하면 $2^{O(r/\varepsilon)}n^{O(1)}$ 로 향상된다.
• 유니크 게임 문제에 대해 알고리즘은 $n^{O(r/\varepsilon)}$ 시간 내에 $\left(1 + \frac{2+\varepsilon}{\lambda_r}\right)$-근사 비율을 제공하며, 확산 그래프에 대한 이전 결과를 향상시킨다.
• 라플라시안에 $1+o(1)$ 이상의 고유값이 적게 존재할 경우, 독립 집합 문제에 대해 $(1+\varepsilon)$-근사가 가능하여 스펙트럼-정규화된 그래프에서의 강건성을 보여준다.
• 분석 결과, 비근사 가능성 결과가 증명하기 어려운 이유는 감소 과정에서 스펙트럼이 느리게 증가하는 그래프를 만들어내야 하며, 이러한 스펙트럼 성질을 가진 그래프들은 일반적으로 구조적 단순성으로 인해 좋은 알고리즘이 존재하기 때문임을 보여준다.