[论文解读] Quantum-inspired classical sublinear-time algorithm for solving low-rank semidefinite programming via sampling approaches

Nai-Hui Chia, Tongyang Li+2 more|arXiv (Cornell University)|Jan 10, 2019

Stochastic Gradient Optimization Techniques被引用 7

一句话总结

本文提出了一种经典的亚线性时间算法，通过基于采样的约束矩阵访问方式求解低秩半定规划（SDP），其渐近性能与量子SDP求解器相当。该方法引入加权采样与对称逼近技术，以高效逼近矩阵和与谱分解，从而在基于采样的数据结构下，以 O(m·poly(log n, 1/ε)) 时间完成解矩阵条目计算。

ABSTRACT

Semidefinite programming (SDP) is a central topic in mathematical optimization with extensive studies on its efficient solvers. Recently, quantum algorithms with superpolynomial speedups for solving SDPs have been proposed assuming access to its constraint matrices in quantum superposition. Mutually inspired by both classical and quantum SDP solvers, in this paper we present a sublinear classical algorithm for solving low-rank SDPs which is asymptotically as good as existing quantum algorithms. Specifically, given an SDP with $m$ constraint matrices, each of dimension $n$ and rank $\mathrm{poly}(\log n)$, our algorithm gives a succinct description and any entry of the solution matrix in time $O(m\cdot\mathrm{poly}(\log n,1/\varepsilon))$ given access to a sample-based low-overhead data structure of the constraint matrices, where $\varepsilon$ is the precision of the solution. In addition, we apply our algorithm to a quantum state learning task as an application. Technically, our approach aligns with both the SDP solvers based on the matrix multiplicative weight (MMW) framework and the recent studies of quantum-inspired machine learning algorithms. The cost of solving SDPs by MMW mainly comes from the exponentiation of Hermitian matrices, and we propose two new technical ingredients (compared to previous sample-based algorithms) for this task that may be of independent interest: $\bullet$ Weighted sampling: assuming sampling access to each individual constraint matrix $A_{1},\ldots,A_{ au}$, we propose a procedure that gives a good approximation of $A=A_{1}+\cdots+A_{ au}$. $\bullet$ Symmetric approximation: we propose a sampling procedure that gives low-rank spectral decomposition of a Hermitian matrix $A$. This improves upon previous sampling procedures that only give low-rank singular value decompositions, losing the signs of eigenvalues.

研究动机与目标

• 开发一种经典算法，实现求解低秩半定规划的亚线性时间复杂度，其渐近性能与近期量子算法相当。
• 在基于采样的约束矩阵数据结构下，实现对解矩阵条目的亚线性时间（关于矩阵维度 n）高效访问。
• 通过引入基于采样的技术，弥合经典与量子SDP求解器之间的差距，改进谱逼近与特征值符号保持能力，优于先前方法。
• 将该算法应用于量子态学习，展示其在量子信息任务中的实际相关性。

提出的方法

• 该算法使用加权采样，通过从单个矩阵 Aᵢ 中按适当权重采样，近似求和约束矩阵 A₁ + ⋯ + Aₘ。
• 提出一种对称逼近过程，可对厄米矩阵 A 构造低秩谱分解，且保持特征值符号，与以往仅提供奇异值分解的方法不同。
• 该方法基于矩阵乘法权重（MMW）框架，将其适配于仅具有采样访问能力的经典计算环境。
• 该算法假设对约束矩阵拥有基于采样的数据结构，从而支持对条目高效查询及对行/列进行采样。
• 利用低秩矩阵（秩为 poly(log n)）的结构，降低MMW求解器中矩阵指数运算的计算成本，后者是该类求解器的主要性能瓶颈。
• 解矩阵以紧凑形式表示，任何条目均可在 O(m·poly(log n, 1/ε)) 时间内以精度 ε 检索。

实验结果

研究问题

• RQ1 经典算法能否在求解低秩SDP时实现亚线性时间复杂度，且渐近性能与量子算法相当？
• RQ2 在MMW框架中，如何仅通过约束矩阵的采样访问高效逼近矩阵指数运算？
• RQ3 基于采样的方法能否在厄米矩阵的低秩逼近中保持特征值符号，而此前方法无法做到？
• RQ4 支持SDP解矩阵条目亚线性时间访问所需的最小数据结构开销是多少？
• RQ5 该经典方法能否有效应用于量子态学习任务，体现其实际应用价值？

主要发现

• 该算法在 O(m·poly(log n, 1/ε)) 时间内计算解矩阵的任意条目，对矩阵维度 n 实现亚线性依赖。
• 所提出的加权采样过程仅通过采样访问单个矩阵，即可良好近似约束矩阵之和。
• 对称逼近技术可在保持特征值符号的前提下，实现厄米矩阵的低秩谱分解，这是对以往基于奇异值采样的方法的重要改进。
• 该方法在渐近复杂度上与量子SDP求解器相当，提供了一种无需量子硬件的经典高效替代方案。
• 该算法可应用于量子态学习，展示了其在理论优化之外的实际相关性。
• 通过利用采样与低秩结构，该方法显著降低了MMW框架中矩阵指数运算的计算成本。