Skip to main content
QUICK REVIEW

[论文解读] On quantum backpropagation, information reuse, and cheating measurement collapse

Amira Abbas, Robbie King|arXiv (Cornell University)|May 22, 2023
Quantum Information and CryptographyComputer Science被引用 12
一句话总结

本文分析了参数化量子模型的反向传播扩展性,证明在没有多个态副本的情况下不可能实现,并提出基于影子层析的量子反向传播方案,能够实现类似的量子资源扩展性,但伴随指数级的经典开销。

ABSTRACT

The success of modern deep learning hinges on the ability to train neural networks at scale. Through clever reuse of intermediate information, backpropagation facilitates training through gradient computation at a total cost roughly proportional to running the function, rather than incurring an additional factor proportional to the number of parameters - which can now be in the trillions. Naively, one expects that quantum measurement collapse entirely rules out the reuse of quantum information as in backpropagation. But recent developments in shadow tomography, which assumes access to multiple copies of a quantum state, have challenged that notion. Here, we investigate whether parameterized quantum models can train as efficiently as classical neural networks. We show that achieving backpropagation scaling is impossible without access to multiple copies of a state. With this added ability, we introduce an algorithm with foundations in shadow tomography that matches backpropagation scaling in quantum resources while reducing classical auxiliary computational costs to open problems in shadow tomography. These results highlight the nuance of reusing quantum information for practical purposes and clarify the unique difficulties in training large quantum models, which could alter the course of quantum machine learning.

研究动机与目标

  • 定义反向传播扩展性及其在高效梯度计算中的重要性。
  • 评估在参数化量子电路中实现反向传播扩展性的可行性。
  • 将量子梯度能力与经典类似物进行比较并识别根本瓶颈。
  • 探讨温和测量和影子层析作为高效梯度估计的潜在途径。

提出的方法

  • 给出一个包含 M 个参数化 Pauli 门的简单变分量子模型来定义。
  • 在一般情形下证明单一副本量子数据无法实现反向传播扩展性。
  • 讨论当前梯度估计方法(如 SPSA、参数移位)在实现反向传播扩展性方面的局限性。
  • 给出一个特殊情形的变分电路,其中温和测量可实现反向传播扩展性。
  • 引入一个量子高效协议,将梯度估计与影子层析联系起来,使得 polylog(M) 次副本即可用准线性量子运算估计所有梯度,并讨论经典开销。

实验结果

研究问题

  • RQ1是否可以仅使用单个数据副本在参数化量子电路中实现反向传播扩展性?
  • RQ2获取多个副本的量子态是否能够在量子资源上实现反向传播扩展性?
  • RQ3温和测量和影子层析如何影响量子模型中的梯度估计与可扩展性?
  • RQ4在实现类似反向传播的高效性方面,量子与经典类似物之间的根本差异是什么?

主要发现

  • 在一般情形下,使用单个副本的量子数据无法实现反向传播扩展性。
  • 在拥有多个副本的情况下,基于影子层析的协议可以在量子资源上实现类反向传播的扩展性,但会带来指数级的经典开销。
  • 一个带有温和测量的特殊情形变分模型在量子设定中可以达到反向传播扩展性。
  • 经典类似物(参数化马尔可夫链)也可以显示出反向传播扩展性,凸显量子测量坍缩的根本作用。
  • 将梯度估计简化为影子层析显示出广泛的障碍:若存在全局高效梯度方案,则意味着对多项式时间可观测量也应实现高效影子层析,但是否普遍可行尚不知。

阅读本论文

在 Nubint 阅读器中打开原文,边读边就任意段落提问。

在 Nubint 中阅读本论文

本解读由 AI 根据论文原文生成,引用前请核对原文。