[论文解读] Gradient Estimation with Constant Scaling for Hybrid Quantum Machine Learning

Thomas Hoffmann, Douglas Brown|arXiv (Cornell University)|Nov 25, 2022

Quantum Computing Algorithms and Architecture被引用 4

一句话总结

本文提出了一种用于混合量子机器学习的新型梯度估计方法——用于随机反向传播的同步扰动（SPSB），该方法在电路参数数量上实现了恒定缩放——无论参数数量多少，每个前向传播仅需两次电路评估。SPSB在收敛速度上相比参数位移规则最多可减少90%的电路评估次数，即使在使用最优学习率的情况下，尤其在较大模型和批量大小下表现更优。

ABSTRACT

We present a novel method for determining gradients of parameterised quantum circuits (PQCs) in hybrid quantum-classical machine learning models by applying the multivariate version of the simultaneous perturbation stochastic approximation (SPSA) algorithm. The gradients of PQC layers can be calculated with an overhead of two evaluations per circuit per forward-pass independent of the number of circuit parameters, compared to the linear scaling of the parameter shift rule. These are then used in the backpropagation algorithm by applying the chain rule. We compare our method to the parameter shift rule for different circuit widths and batch sizes, and for a range of learning rates. We find that, as the number of qubits increases, our method converges significantly faster than the parameter shift rule and to a comparable accuracy, even when considering the optimal learning rate for each method.

研究动机与目标

• 为解决参数化量子电路（PQCs）中梯度估计的高计算成本，特别是随着参数数量增加时的问题。
• 开发一种可扩展的、通用的混合量子-经典机器学习模型反向传播方法。
• 通过最小化每步优化的电路评估次数，实现在NISQ时代量子硬件上的高效训练。
• 在不同模型大小、批量大小和学习率下，评估所提方法与标准参数位移规则的性能表现。
• 证明SPSB在保持相近精度的同时，显著提升训练速度和可扩展性。

提出的方法

• 该方法将多变量同步扰动随机逼近（SPSA）算法应用于参数化量子电路的反向模式自动微分中，以估计梯度。
• 通过每个前向传播仅需两次电路评估来计算雅可比矩阵，且与参数数量无关，从而实现恒定缩放。
• 通过链式法则将梯度集成到反向传播框架中，实现对混合模型的端到端优化。
• 该方法利用参数空间中的统计扰动来随机近似梯度，减少了对精确解析位移的依赖。
• 该方法与标准优化器（如Adam和SGD）兼容，可应用于纯量子模型及混合量子-经典模型。
• 该实现支持批量处理，并可通过多次雅可比矩阵评估的平均来缓解噪声影响。

实验结果

研究问题

• RQ1 能否开发一种梯度估计方法，使其计算复杂度随电路深度线性增长，但与参数数量无关？
• RQ2 在不同模型大小和批量大小下，SPSB方法与参数位移规则在收敛速度和最终精度方面的表现如何比较？
• RQ3 SPSB的最优学习率是多少？与参数位移规则的最优学习率相比有何差异？
• RQ4 在典型未来NISQ设备中常见的高参数数量和不同噪声水平下，SPSB是否仍保持性能优势？
• RQ5 SPSB能否与Adam等先进优化器或量子自然梯度方法有效结合？

主要发现

• 在使用最优学习率时，SPSB相比参数位移规则收敛速度快得多，可将电路评估次数减少高达90%，同时保持相近的精度。
• 在随机数据分类任务中，SPSB使用0.01学习率时的评估效率优于参数位移规则使用0.5学习率时的表现。
• 在'卷积量子化'MNIST任务中，即使两者均使用各自的最优学习率，SPSB的收敛速度仍快于参数位移规则。
• 该方法对统计噪声具有鲁棒性，且适用于大批次，有助于在损失景观中逃离平坦区域。
• SPSB在较低学习率（如0.01–0.05）下表现最佳，而较高学习率（如0.5）会导致不稳定和无法收敛。
• 该方法与现有量子机器学习库兼容，可轻松集成到支持可微分量子电路的框架中。