[论文解读] Quantum-Inspired Sublinear Algorithm for Solving Low-Rank Semidefinite Programming

Nai-Hui Chia, Tongyang Li+2 more|arXiv (Cornell University)|Jan 10, 2019

Complexity and Algorithms in Graphs参考文献 28被引用 4

一句话总结

本文提出了一种经典、受量子启发的亚线性时间算法，用于求解低秩半定规划（SDP），采用基于采样的数据结构。通过将矩阵乘法权重框架与新颖的采样技术相结合——用于矩阵和近似的加权采样，以及用于谱分解的对称近似——该算法实现了 O(m · poly(log n, r, 1/ε)) 的运行时间，在低秩约束下相比经典方法实现了多项式加速，并支持对解矩阵的逐元素访问和谱分解。

ABSTRACT

Semidefinite programming (SDP) is a central topic in mathematical optimization with extensive studies on its efficient solvers. In this paper, we present a proof-of-principle sublinear-time algorithm for solving SDPs with low-rank constraints; specifically, given an SDP with $m$ constraint matrices, each of dimension $n$ and rank $r$, our algorithm can compute any entry and efficient descriptions of the spectral decomposition of the solution matrix. The algorithm runs in time $O(m\cdot\mathrm{poly}(\log n,r,1/\varepsilon))$ given access to a sampling-based low-overhead data structure for the constraint matrices, where $\varepsilon$ is the precision of the solution. In addition, we apply our algorithm to a quantum state learning task as an application. Technically, our approach aligns with 1) SDP solvers based on the matrix multiplicative weight (MMW) framework by Arora and Kale [TOC '12]; 2) sampling-based dequantizing framework pioneered by Tang [STOC '19]. In order to compute the matrix exponential required in the MMW framework, we introduce two new techniques that may be of independent interest: $\bullet$ Weighted sampling: assuming sampling access to each individual constraint matrix $A_{1},\ldots,A_τ$, we propose a procedure that gives a good approximation of $A=A_{1}+\cdots+A_τ$. $\bullet$ Symmetric approximation: we propose a sampling procedure that gives the \emph{spectral decomposition} of a low-rank Hermitian matrix $A$. To the best of our knowledge, this is the first sampling-based algorithm for spectral decomposition, as previous works only give singular values and vectors.

研究动机与目标

• 开发一种经典算法，实现在低秩半定规划（SDP）上的亚线性运行时间，与此前量子算法中观察到的指数加速相匹配。
• 解决在仅具有约束矩阵采样访问的前提下，高效计算矩阵指数和谱分解的挑战，适用于矩阵乘法权重（MMW）框架。
• 提供一种简洁高效的 SDP 解表示方法，支持快速逐元素查询和谱信息提取。
• 通过将该算法应用于基于阴影层析的量子态学习，展示其实际适用性。
• 在低秩假设下，建立一种经典替代方案以替代量子 SDP 求解器，利用受 Tang 突破性工作启发的去量化技术。

提出的方法

• 利用矩阵乘法权重（MMW）框架，通过迭代更新权重矩阵和吉布斯态，近似 SDP 的最优解。
• 提出一种新颖的加权采样方法，通过单个矩阵的采样访问，近似低秩厄米特矩阵之和 A1 + ... + Aτ。
• 提出一种对称近似技术，通过采样低秩厄米特矩阵的谱分解，以采样方式同时获得特征值和特征向量。
• 采用一种支持采样和范数查询访问的存储结构，使每次操作时间复杂度为 O(poly(log n))，这对实现亚线性复杂度至关重要。
• 在每次迭代中，使用算法 4–6 进行随机估计，以高概率且有界误差近似 Tr[Ajtρt]。
• 通过在目标值上使用可行性子程序进行二分查找，求解完整优化问题，同时保持解表示的简洁性。

实验结果

研究问题

• RQ1 在仅具有约束矩阵采样访问的前提下，经典算法是否能实现在低秩 SDP 上的亚线性运行时间，与量子算法的指数加速相匹配？
• RQ2 是否可能仅通过矩阵元素的采样访问，而非完整矩阵访问，实现对低秩厄米特矩阵谱分解的采样？
• RQ3 在 MMW 框架中所需的矩阵指数和吉布斯态计算，是否能通过基于采样的技术高效近似？
• RQ4 如何对 SDP 的解进行简洁表示，以支持高效的逐元素访问和谱分解？
• RQ5 该经典方法是否能以与量子算法相当的效率应用于量子态学习任务（如阴影层析）？

主要发现

• 对于具有 m 个约束矩阵、维度为 n 且秩为 r 的低秩 SDP，该算法运行时间为 O(m · poly(log n, r, 1/ε))，对 n 的依赖为亚线性。
• 该算法提供了对解矩阵的简洁表示，包括其最大特征值、特征向量以及任意特定元素，支持高效的查询访问。
• 通过一种新颖的对称采样过程近似谱分解，这是首个能够基于采样恢复低秩厄米特矩阵的特征值和特征向量的方法。
• 通过随机估计方法，以高概率近似 Tr[Ajtρt]，且误差受 ϵ 和 δ 控制。
• 该方法被应用于阴影层析，在时间 O(m · poly(log n, 1/ϵ, log(1/δ), r)) 内以高概率求解问题。
• 运行时间复杂度主要由谱分解步骤主导，其在 r 和 1/ϵ 上具有多项式开销，尽管通过更精细的分析可能进一步降低。