[论文解读] Beyond Barren Plateaus: Quantum Variational Algorithms Are Swamped With Traps

Eric R. Anschuetz, Bobak T. Kiani|arXiv (Cornell University)|May 11, 2022

Quantum Computing Algorithms and Architecture被引用 15

一句话总结

该论文表明，变分量子算法（VQAs）的根本不可训练性不仅源于 barren plateaus，还源于远离全局最优解的局部极小值的过度集中，即使在浅层、非 barren plateau 模型中也是如此。通过统计查询学习理论与损失景观分析，作者证明了次指数查询复杂度不足以实现噪声优化，数值结果进一步证实，大多数局部极小值在能量上与全局最小值呈指数距离，尤其是在参数与局部 Hilbert 空间比值较低时。

ABSTRACT

One of the most important properties of classical neural networks is how surprisingly trainable they are, though their training algorithms typically rely on optimizing complicated, nonconvex loss functions. Previous results have shown that unlike the case in classical neural networks, variational quantum models are often not trainable. The most studied phenomenon is the onset of barren plateaus in the training landscape of these quantum models, typically when the models are very deep. This focus on barren plateaus has made the phenomenon almost synonymous with the trainability of quantum models. Here, we show that barren plateaus are only a part of the story. We prove that a wide class of variational quantum models -- which are shallow, and exhibit no barren plateaus -- have only a superpolynomially small fraction of local minima within any constant energy from the global minimum, rendering these models untrainable if no good initial guess of the optimal parameters is known. We also study the trainability of variational quantum algorithms from a statistical query framework, and show that noisy optimization of a wide variety of quantum models is impossible with a sub-exponential number of queries. Finally, we numerically confirm our results on a variety of problem instances. Though we exclude a wide variety of quantum algorithms here, we give reason for optimism for certain classes of variational algorithms and discuss potential ways forward in showing the practical utility of such algorithms.

研究动机与目标

• 研究在不存在 barren plateaus 的情况下，变分量子算法（VQAs）是否仍可在浅层、局域电路与局域代价函数下实现可训练性。
• 通过识别更广泛的不可训练性机制，挑战 barren plateaus 是 VQA 可训练性主要障碍的假设。
• 利用统计查询学习理论，建立在噪声条件下 VQA 可训练性的理论极限。
• 分析 VQA 损失景观的结构，证明即使不存在 barren plateaus，局部极小值也集中在远离全局最小值的位置。
• 提供数值证据，证实典型实例中，位于全局最小值常数能量范围内的局部极小值比例在问题规模上为超多项式小。

提出的方法

• 使用统计查询（SQ）学习模型进行理论分析，以限制噪声量子模型优化的查询复杂度，证明在噪声下，次指数查询不足以实现学习。
• 应用 Wishart 超环面随机场（WHRFs）来建模 VQA 的损失景观，其中过参数化比率 γ = l/(2m) 作为控制可训练性的关键序参量。
• 推导 WHRF 中局部极小值的渐近分布：Crt₀(E) ∼ e^(-mE) E^(m−l/2) (1−2E)^l，该式预测当 γ ≪ 1 时，优质极小值的比例为超多项式小。
• 证明 VQA 损失函数中函数值、梯度与 Hessian 的联合分布以足够快的速率收敛至 WHRF 的联合分布，从而可转移相变结果。
• 在 QCNN 及其他问题实例上进行数值验证，确认即使在无 barren plateaus 的浅层电路中，损失景观也由劣质局部极小值主导。
• 使用量子统计查询模型（qCSQ 和 qUSQ）模拟噪声优化，表明 NISQ 设备中常见的噪声会使子指数查询下的学习成为不可能。

实验结果

研究问题

• RQ1 在不存在 barren plateaus 的情况下，变分量子算法（VQAs）是否仍不可训练，特别是在浅层、局域电路中？
• RQ2 是什么决定了 VQA 损失景观中局部极小值远离全局最优解的集中现象？
• RQ3 统计查询学习理论能否用于建立噪声量子模型可训练性的根本限制？
• RQ4 局部参数与局部 Hilbert 空间维数之比如何控制浅层 VQAs 中的可训练性相变？
• RQ5 数值模拟在多大程度上证实了在典型 VQA 实例中，局部极小值与全局最小值之间存在指数距离？

主要发现

• 对于无 barren plateaus 的浅层 VQAs，位于任何常数能量范围内全局最小值的局部极小值比例在问题规模上为超多项式小，这使得没有良好初始化时无法实现可训练性。
• VQA 损失景观中的可训练性相变由测量可观测量的反向光锥内局部参数与局部 Hilbert 空间维数之比决定，而非全局参数与 Hilbert 空间之比。
• 当过参数化比率 γ = l/(2m) 满足 γ = o(1/log(n)) 时，优质局部极小值的比例为超多项式小，表明存在根本性的不可训练性。
• 统计查询学习理论证明，即使噪声在系统规模上呈指数小，对一大类量子模型的噪声优化也无法通过子指数数量的查询实现。
• 在 QCNN 及其他实例上的数值结果证实，损失景观由劣质局部极小值主导，全局最小值周围仅有稀疏的有利点。
• 本研究指出，高对称性与良好初始化不足以克服根本的陷阱问题，尤其在通用的非对称实例中。