[논문 리뷰] Quantum-Inspired Sublinear Algorithm for Solving Low-Rank Semidefinite Programming

Nai-Hui Chia, Tongyang Li외 2명|arXiv (Cornell University)|2019. 01. 10.

Complexity and Algorithms in Graphs참고 문헌 28인용 수 4

한 줄 요약

이 논문은 샘플링 기반 데이터 구조를 사용하여 저질서 반정형 프로그래밍(SDP)을 해결하는 고전적, 양자 영감을 받은 비선형 시간 알고리즘을 제시한다. 매트릭스 곱셈 가중치 프레임워크와 새로운 샘플링 기법—행렬 합 근사에 대한 가중 샘플링 및 스펙트럼 분해를 위한 대칭 근사—을 결합함으로써, O(m · poly(log n, r, 1/ε))의 런타임을 달성하며, 저질서 제약 조건 하에서 고전적 방법에 비해 다항식적 속도 향상을 제공하고, 해 행렬의 원소 수준 접근 및 스펙트럼 분해를 효율적으로 가능하게 한다.

ABSTRACT

Semidefinite programming (SDP) is a central topic in mathematical optimization with extensive studies on its efficient solvers. In this paper, we present a proof-of-principle sublinear-time algorithm for solving SDPs with low-rank constraints; specifically, given an SDP with $m$ constraint matrices, each of dimension $n$ and rank $r$, our algorithm can compute any entry and efficient descriptions of the spectral decomposition of the solution matrix. The algorithm runs in time $O(m\cdot\mathrm{poly}(\log n,r,1/\varepsilon))$ given access to a sampling-based low-overhead data structure for the constraint matrices, where $\varepsilon$ is the precision of the solution. In addition, we apply our algorithm to a quantum state learning task as an application. Technically, our approach aligns with 1) SDP solvers based on the matrix multiplicative weight (MMW) framework by Arora and Kale [TOC '12]; 2) sampling-based dequantizing framework pioneered by Tang [STOC '19]. In order to compute the matrix exponential required in the MMW framework, we introduce two new techniques that may be of independent interest: $\bullet$ Weighted sampling: assuming sampling access to each individual constraint matrix $A_{1},\ldots,A_τ$, we propose a procedure that gives a good approximation of $A=A_{1}+\cdots+A_τ$. $\bullet$ Symmetric approximation: we propose a sampling procedure that gives the \emph{spectral decomposition} of a low-rank Hermitian matrix $A$. To the best of our knowledge, this is the first sampling-based algorithm for spectral decomposition, as previous works only give singular values and vectors.

연구 동기 및 목표

• 저질서 반정형 프로그래밍(SDP)에 대해 고전적 알고리즘으로 비선형 런타임을 달성하여 이전에 양자 알고리즘에서 관찰된 지수적 속도 향상과 동일한 성능을 달성하고자 한다.
• 제약 행렬에 대한 샘플링 액세스만을 사용하여 매트릭스 곱셈 가중치(MMW) 프레임워크 내에서 행렬 지수와 스펙트럼 분해를 효율적으로 계산하는 데 도전한다.
• 빠른 원소 수준 쿼리 및 스펙트럼 정보 추출을 가능하게 하는, SDP 해의 간결하고 효율적인 표현을 제공하고자 한다.
• 양자 상태 학습을 위한 샤로우 톰로그래피를 통해 실제 적용 가능성을 입증하고자 한다.
• 저질서 가정 하에서 양자 SDP 솔버의 고전적 대안을 마련하고, Tang의 돌풍 같은 성과에서 영감을 받은 탈양자화 기법을 활용하고자 한다.

제안 방법

• 매트릭스 곱셈 가중치(MMW) 프레임워크를 활용하여 반복적으로 가중치 행렬과 깁스 상태를 갱신함으로써 SDP의 최적 해를 근사한다.
• 개별 행렬에 대한 샘플링 액세스를 통해 저질서 에르미트 행렬 A1 + ... + Aτ의 합을 근사하기 위한 새로운 가중 샘플링 절차를 도입한다.
• 저질서 에르미트 행렬의 스펙트럼 분해에서 샘플링을 통해 고유값과 고유벡터를 모두 제공하는 대칭 근사 기법을 제안한다.
• 샘플링 및 노름 쿼리 액세스가 가능한 데이터 구조를 활용하여, 각 연산에 O(poly(log n))의 시간을 확보함으로써 비선형 복잡도에 핵심적인 역할을 한다.
• 각 반복 단계에서 Tr[Ajtρt]를 랜덤화된 추정을 통해 근사하기 위해 알고리즘 4–6를 사용하며, 높은 확률과 오차 제어를 보장한다.
• 해결 가능성 하위 알고리즘을 사용하여 목표 값에 대해 이진 탐색을 수행함으로써 전체 최적화 문제를 해결하면서도, 간결한 해 표현을 유지한다.

실험 결과

연구 질문

• RQ1 제약 행렬에 대한 샘플링 액세스만을 사용할 때, 저질서 SDP에 대해 고전적 알고리즘이 양자 알고리즘의 지수적 속도 향상과 동일한 비선형 런타임을 달성할 수 있는가?
• RQ2 행렬의 전체 액세스 없이도 원소에 대한 샘플링 액세스만으로 저질서 에르미트 행렬의 스펙트럼 분해에서 샘플링이 가능한가?
• RQ3 MMW 프레임워크에서 요구되는 행렬 지수와 깁스 상태 계산이 샘플링 기반 기법을 통해 효율적으로 근사될 수 있는가?
• RQ4 SDP의 해를 어떻게 간결하게 표현할 수 있을까? 이는 원소 수준 접근 및 스펙트럼 분해를 효율적으로 가능하게 해야 한다.
• RQ5 이 고전적 접근은 샤로우 톰로그래피와 같은 양자 상태 학습 과제에 대해 양자 알고리즘과 비교해 유사한 효율성으로 적용될 수 있는가?

주요 결과

• 이 알고리즘은 차원 n과 질서 r인 m개의 제약 행렬을 가진 저질서 SDP에 대해 O(m · poly(log n, r, 1/ε))의 시간 복잡도로 실행되며, n에 대해 비선형적 의존성을 가지며, 이는 n에 대해 비선형적 복잡도를 달성한다.
• 해 행렬의 상위 고유값, 고유벡터, 특정 원소를 포함한 간결한 표현을 제공함으로써 빠른 쿼리 액세스를 가능하게 한다.
• 스펙트럼 분해는 새로운 대칭 샘플링 절차를 통해 근사되며, 이는 저질서 에르미트 행렬의 고유값과 고유벡터를 모두 복원할 수 있는 최초의 샘플링 기반 방법이다.
• 오차가 ϵ과 δ에 의해 제어되는 랜덤화된 추정을 통해 Tr[Ajtρt]의 높은 확률 근사가 달성된다.
• 이 방법은 샤로우 톰로그래피에 적용되어, 높은 확률로 O(m · poly(log n, 1/ϵ, log(1/δ), r))의 시간 복잡도로 문제를 해결한다.
• 런타임 복잡도는 주로 스펙트럼 분해 단계에 의해 지배되며, r과 1/ϵ에 대해 다항식적 오버헤드를 가지지만, 더 정교한 분석을 통해 이를 줄일 수 있을 것이다.