[论文解读] Backpropagation scaling in parameterised quantum circuits

Joseph Bowles, David Wierichs+1 more|arXiv (Cornell University)|Jun 26, 2023

Quantum Computing Algorithms and Architecture被引用 10

一句话总结

论文介绍了可 commuting-generator 和 commuting-block 参数化量子电路，使梯度估计类似反向传播在显著减少的电路评估下实现，在某些情况下接近经典反向传播的标度。

ABSTRACT

The discovery of the backpropagation algorithm ranks among one of the most important moments in the history of machine learning, and has made possible the training of large-scale neural networks through its ability to compute gradients at roughly the same computational cost as model evaluation. Despite its importance, a similar backpropagation-like scaling for gradient evaluation of parameterised quantum circuits has remained elusive. Currently, the most popular method requires sampling from a number of circuits that scales with the number of circuit parameters, making training of large-scale quantum circuits prohibitively expensive in practice. Here we address this problem by introducing a class of structured circuits that are not known to be classically simulable and admit gradient estimation with significantly fewer circuits. In the simplest case -- for which the parameters feed into commuting quantum gates -- these circuits allow for fast estimation of the gradient, higher order partial derivatives and the Fisher information matrix. Moreover, specific families of parameterised circuits exist for which the scaling of gradient estimation is in line with classical backpropagation, and can thus be trained at scale. In a toy classification problem on 16 qubits, such circuits show competitive performance with other methods, while reducing the training cost by about two orders of magnitude.

研究动机与目标

• 动机：说明变分量子算法中快速梯度评估的必要性。
• 引入允许并行梯度估计的电路类（可交换生成器 commuting-generator 和 commuting-block）。
• 推导在何种条件下可用更少的量子资源计算梯度及高阶导数。
• 在所提出的电路族中探讨费舍信息和量子自然梯度。

提出的方法

• 定义代价函数 C(θ) = ⟨0|U†(θ) H U(θ)|0⟩，其中 U(θ)=∏j exp(−i θj Gj) 且 Gj 两两对易。
• 证明对于可交换生成器电路，可以通过单个电路的后处理获得无偏梯度估计，且每个导数的方差为 O(1/M)。
• 证明所有高阶导数直到阶 t 可以通过合适的观测 Oα 和对角化单位实现并行估计，方差规模为 O(1/M)。
• 引入可交换块电路，其中块内部具有可对易生成器，块之间具有固定的对易关系，从而在 B 块时需要 2B−1 个电路来估计梯度。
• 给出显式构造（X-生成器猜想）并通过利用 Pauli 结构和稳定器技术讨论如何并行测量梯度。
• 讨论可交换生成器电路的费舍信息矩阵作为编码态中生成器的协方差，从而实现量子自然梯度的考量。

实验结果

研究问题

• RQ1 参数化量子电路的梯度估计是否可以通过结构化电路设计在实际中实现可扩展性？
• RQ2 在何种结构约束下，可交换生成器和可交换块电路在相当于电路评估的资源成本下实现并行梯度估计？
• RQ3 在这些电路类中费舍信息矩阵的行为如何，是否可以被用于高效优化？
• RQ4 与单块电路相比，可交换块电路的表达能力有多大，该如何影响学习性能？
• RQ5 是否存在具体、可实现的电路构造，展示出类似反向传播的标度和实际训练收益？

主要发现

• 可交换生成器电路允许从单个电路获得无偏梯度估计，对于并行测量的所有导数，其方差规模为 O(1/M)。
• 对于 Pauli-积生成器，可以在相对于基础电路的深度上实现 O(N/ log N) 的梯度估计深度，从而实现高效并行化。
• 高阶导数（阶 t）可以并行估计，理论上在 t 增长时方差呈指数级增长但对小 t 仍是可行的，从而实现近似的二阶优化。
• 用于可交换生成器电路的费舍信息降为编码态中生成器的协方差，使得实现量子自然梯度成为可能；在某些情况下，可以对 F 进行经典评估。
• 可交换块电路扩展了表达能力，超越单块电路，同时保持梯度缩放的优势，估计 B 块梯度只需 2B−1 个电路。
• 一个16量子比特的分类 toy 问题显示，与标准方法相比，训练成本降低约两个数量级，且准确率具竞争力。