[논문 리뷰] Quantum-inspired classical sublinear-time algorithm for solving low-rank semidefinite programming via sampling approaches

Nai-Hui Chia, Tongyang Li외 2명|arXiv (Cornell University)|2019. 01. 10.

Stochastic Gradient Optimization Techniques인용 수 7

한 줄 요약

이 논문은 제약 행렬에 대한 샘플 기반 액세스를 활용하여 저질서 반정형계획문제(SDP)를 해결하는 고전적 하위선형 시간 알고리즘을 제시한다. 이는 양자 SDP 해법과 비슷한 渐近 성능을 달성한다. 행렬 합과 고유분해를 효율적으로 근사하기 위해 가중 샘플링과 대칭 근사 기법을 도입하여, 샘플 기반 데이터 구조를 사용해 O(m·poly(log n, 1/ε)) 시간 내에 해의 원소를 계산할 수 있도록 한다.

ABSTRACT

Semidefinite programming (SDP) is a central topic in mathematical optimization with extensive studies on its efficient solvers. Recently, quantum algorithms with superpolynomial speedups for solving SDPs have been proposed assuming access to its constraint matrices in quantum superposition. Mutually inspired by both classical and quantum SDP solvers, in this paper we present a sublinear classical algorithm for solving low-rank SDPs which is asymptotically as good as existing quantum algorithms. Specifically, given an SDP with $m$ constraint matrices, each of dimension $n$ and rank $\mathrm{poly}(\log n)$, our algorithm gives a succinct description and any entry of the solution matrix in time $O(m\cdot\mathrm{poly}(\log n,1/\varepsilon))$ given access to a sample-based low-overhead data structure of the constraint matrices, where $\varepsilon$ is the precision of the solution. In addition, we apply our algorithm to a quantum state learning task as an application. Technically, our approach aligns with both the SDP solvers based on the matrix multiplicative weight (MMW) framework and the recent studies of quantum-inspired machine learning algorithms. The cost of solving SDPs by MMW mainly comes from the exponentiation of Hermitian matrices, and we propose two new technical ingredients (compared to previous sample-based algorithms) for this task that may be of independent interest: $\bullet$ Weighted sampling: assuming sampling access to each individual constraint matrix $A_{1},\ldots,A_{ au}$, we propose a procedure that gives a good approximation of $A=A_{1}+\cdots+A_{ au}$. $\bullet$ Symmetric approximation: we propose a sampling procedure that gives low-rank spectral decomposition of a Hermitian matrix $A$. This improves upon previous sampling procedures that only give low-rank singular value decompositions, losing the signs of eigenvalues.

연구 동기 및 목표

• 최근의 양자 알고리즘과 비슷한 점근적 성능을 달성하는 고전적 알고리즘을 개발하여, 저질서 반정형계획문제(SDP)를 하위선형 시간 복잡도로 해결할 수 있도록 한다.
• 제약 행렬의 샘플 기반 데이터 구조가 주어졌을 때, 해 행렬의 개별 원소에 하위선형 시간 내에 접근할 수 있도록 한다.
• 스펙트럼 근사도 향상과 고유값의 부호 유지 기능을 향상시킨 샘플링 기반 기법을 도입하여 고전적 및 양자 SDP 해법 간 격차를 좁힌다.
• 알고리즘을 양자 상태 학습에 적용하여, 양자 정보 과제에서 실용적 유용성을 입증한다.

제안 방법

• 알고리즘은 각 행렬 Aᵢ에서 적절한 가중치를 부여해 샘플링하는 방식으로 제약 행렬의 합 A₁ + ⋯ + Aₘ을 근사한다.
• 이전 방법이 단지 특이값 분해를 제공하는 데 반해, 고유값의 부호를 유지하는 대칭 근사 절차를 도입하여 헤르미트 행렬 A의 저질서 스펙트럼 분해를 수행한다.
• 매트릭스 곱셈 가중치(MMW) 프레임워크를 기반으로 하되, 행렬에 대한 샘플 액세스를 가정하는 고전적 계산 환경에 맞게 수정한다.
• 알고리즘은 제약 행렬에 대한 샘플 기반 데이터 구조에 액세스할 수 있다고 가정하여, 원소에 대한 효율적 쿼리 액세스와 행/열 샘플링을 가능하게 한다.
• 낮은 질서 행렬(질서가 poly(log n))의 구조를 활용하여, MMW 기반 해법에서 주요 성능 저하 요인인 행렬 지수화의 계산 비용을 감소시킨다.
• 해 행렬은 압축된 방식으로 표현되며, 정밀도 ε로 어떤 원소든 O(m·poly(log n, 1/ε)) 시간 내에 검색할 수 있다.

실험 결과

연구 질문

• RQ1 고전적 알고리즘이 양자 알고리즘과 비슷한 점근적 성능을 달성하면서도 저질서 SDP를 하위선형 시간 복잡도로 해결할 수 있는가?
• RQ2 MMW 프레임워크에서 행렬 지수화를 제약 행렬에 대한 샘플 액세스만으로 효율적으로 근사할 수 있는가?
• RQ3 샘플링 기반 방법은 이전 방법이 특이값 기반 근사에 그치는 것과 달리, 헤르미트 행렬의 저질서 근사에서 고유값의 부호를 유지할 수 있는가?
• RQ4 SDP 해 행렬의 원소에 하위선형 시간 내에 액세스하기 위해 필요한 최소한의 데이터 구조 오버헤드는 얼마인가?
• RQ5 이 고전적 접근 방식은 양자 상태 학습 과제에 효과적으로 적용될 수 있으며, 실용적 유용성을 입증할 수 있는가?

주요 결과

• 알고리즘은 해 행렬의 어떤 원소든 O(m·poly(log n, 1/ε)) 시간 내에 계산하여, 행렬 차원 n에 대해 하위선형 의존성을 달성한다.
• 제안된 가중 샘플링 절차는 개별 행렬에 대한 샘플 액세스만으로 제약 행렬의 합을 잘 근사한다.
• 대칭 근사 기법은 고유값의 부호를 유지하면서 헤르미트 행렬의 저질서 스펙트럼 분해를 가능하게 하여, 이전의 특이값 기반 샘플링 방법에 비해 핵심적인 개선을 이룬다.
• 이 방법은 양자 SDP 해법의 점근적 복잡도를 따라잡으며, 양자 하드웨어가 필요 없이도 효율적인 고전적 대안을 제공한다.
• 알고리즘은 양자 상태 학습에 적용 가능하여 이론적 최적화를 넘어서 실용적 유용성을 입증한다.
• 샘플링과 저질서 구조를 활용하여 MMW 프레임워크 내의 행렬 지수화 계산 비용을 감소시킨다.