[论文解读] Cost-Function-Dependent Barren Plateaus in Shallow Quantum Neural Networks.

M. Cerezo, Akira Sone+3 more|arXiv (Cornell University)|Jan 2, 2020

Quantum Computing Algorithms and Architecture被引用 75

一句话总结

本文证明了代价函数的选择在浅层量子神经网络中对可训练性具有决定性影响：全局可观测量导致梯度指数级消失（ barren plateaus），而局域可观测量在电路深度为 O(log n) 时仅导致多项式级梯度消失，从而在变分量子算法中建立了局域性与可训练性之间的直接联系。

ABSTRACT

Variational quantum algorithms (VQAs) optimize the parameters $\boldsymbol{ heta}$ of a quantum neural network $V(\boldsymbol{ heta})$ to minimize a cost function $C$. While VQAs may enable practical applications of noisy quantum computers, they are nevertheless heuristic methods with unproven scaling. Here, we rigorously prove two results, assuming $V(\boldsymbol{ heta})$ is a hardware-efficient ansatz composed of blocks forming local 2-designs. Our first result states that defining $C$ in terms of global observables leads to an exponentially vanishing gradient (i.e., a barren plateau) even when $V(\boldsymbol{ heta})$ is shallow. This implies that several VQAs in the literature must revise their proposed cost functions. On the other hand, our second result states that defining $C$ with local observables leads to at worst a polynomially vanishing gradient, so long as the depth of $V(\boldsymbol{ heta})$ is $\mathcal{O}(\log n)$. Taken together, our results establish a connection between locality and trainability. Finally, we illustrate these ideas with large-scale simulations, up to 100 qubits, of a particular VQA known as quantum autoencoders.

研究动机与目标

• 严格分析不同代价函数选择下浅层变分量子算法（VQAs）中的梯度行为。
• 识别在由局域 2-设计块组成的硬件高效量子电路中，barren plateaus 出现的条件。
• 建立代价函数中可观测量的局域性与梯度缩放行为之间的理论联系。
• 通过证明局域可观测量即使在浅层电路中也能保持梯度幅度，为可训练 VQA 的设计提供指导。

提出的方法

• 利用随机矩阵理论和局域 2-设计的性质，对 VQAs 中梯度方差进行理论分析。
• 推导两种代价函数类型（全局可观测量与局域可观测量）下的梯度缩放行为。
• 假设采用硬件高效量子电路，其块构成局域 2-设计，以模拟真实量子电路。
• 证明无论电路深度如何，全局可观测量均导致梯度指数级消失。
• 证明当深度为 O(log n) 时，局域可观测量导致的梯度最多为多项式级消失。
• 在高达 100 量子比特的量子自编码器上进行大规模模拟，以验证理论预测。

实验结果

研究问题

• RQ1 在浅层 VQA 中，代价函数的选择是否会导致梯度指数级消失（barren plateaus）？
• RQ2 在代价函数中使用局域可观测量是否能防止浅层量子电路中的 barren plateaus？
• RQ3 在使用局域与全局可观测量时，电路深度与梯度缩放行为之间存在何种关系？
• RQ4 量子电路结构（特别是局域 2-设计）如何影响 VQAs 中的梯度行为？
• RQ5 大规模模拟在多大程度上验证了关于梯度缩放的理论预测？

主要发现

• 使用全局可观测量定义代价函数会导致梯度指数级消失，即使在浅层电路中，从而引发 barren plateaus。
• 当代价函数使用局域可观测量时，只要电路深度为 O(log n)，梯度最多以多项式速度消失。
• 理论分析证明，代价函数中的局域性对于在浅层 VQAs 中维持可训练梯度至关重要。
• 结果表明，多个现有使用全局可观测量的 VQA 必须重新考虑其代价函数以避免 barren plateaus。
• 对高达 100 量子比特的量子自编码器进行的大规模模拟，证实了关于梯度缩放的理论预测。