[论文解读] Quantum Algorithms for Deep Convolutional Neural Networks

Iordanis Kerenidis, Jonas Landman+1 more|arXiv (Cornell University)|Nov 4, 2019

Quantum Computing Algorithms and Architecture参考文献 41被引用 81

一句话总结

提出一个量子卷积神经网络（QCNN），具备量子卷积层和量子反向传播，提供相对于经典CNN的潜在加速，并通过仿真显示MNIST分类的可行性。

ABSTRACT

Quantum computing is a new computational paradigm that promises applications in several fields, including machine learning. In the last decade, deep learning, and in particular Convolutional neural networks (CNN), have become essential for applications in signal processing and image recognition. Quantum deep learning, however remains a challenging problem, as it is difficult to implement non linearities with quantum unitaries. In this paper we propose a quantum algorithm for applying and training deep convolutional neural networks with a potential speedup. The quantum CNN (QCNN) is a shallow circuit, reproducing completely the classical CNN, by allowing non linearities and pooling operations. The QCNN is particularly interesting for deep networks and could allow new frontiers in image recognition, by using more or larger convolution kernels, larger or deeper inputs. We introduce a new quantum tomography algorithm with $\ell_{\infty}$ norm guarantees, and new applications of probabilistic sampling in the context of information processing. We also present numerical simulations for the classification of the MNIST dataset to provide practical evidence for the efficiency of the QCNN.

研究动机与目标

• 在数据量持续增长与CNN部署的时代，推动需要可扩展的量子加速深度学习的动机。
• 引入一个模块化的量子CNN（QCNN）架构，能够实现任意深度、内核大小，以及 pooling/nonlinearity 选项。
• 开发与 QRAM 兼容的卷积、非线性、池化和反向传播的量子子程序。
• 为 QCNN 的前向与反向传播提供理论保证与复杂性讨论。
• 通过 MNIST 仿真展示实际可行性，并与经典 CNN 的性能进行比较。

提出的方法

• 定义一个量子卷积操作，将 3D 输入张量和 4D 内核映射到表示该层输出的量子态。
• 使用具有 l_infty 保证的量子层析技术从量子态中恢复显著输出。
• 应用振幅估计和中值评估来高效编码和提取卷积内积。
• 采用量子反向传播来估计并更新训练 QCNN 的梯度。
• 分析运行时间，在前向传播中对内核数量呈指数级因素、对输入尺寸呈次线性因素。
• 给出一个完整的前向-后向量子算法（算法1与算法2），包含精度和条件参数。

实验结果

研究问题

• RQ1 量子算法是否能够复现 CNN 的前向传播并通过量子态和 l_infty 局部渐近恢复出有意义的输出？
• RQ2 在 QRAM 假设下，QCNN 的前向传播和反向传播相对于经典 CNN 的潜在加速有多大？
• RQ3 如何在量子电路中实现非线性和池化，以模拟经典 CNN 的行为？
• RQ4 支持可扩展 QCNN 训练的计算与数据结构要求（QRAM）有哪些？
• RQ5 在仿真中，MNIST 风格的分类任务是否能够达到与经典 CNN 相当的准确性？

主要发现

• 存在一个量子卷积层可输出近似于经典卷积结果的量子态，误差可控，时间复杂度与输入大小及内核数量呈多项式对数尺度增长。
• 反向传播可以量子实现，以在指定误差容忍度下估计损失对内核参数的梯度并执行梯度下降。
• 在提出的框架下，QCNN 的前向传播在内核数量上具有指数级加速，在输入空间尺寸上接近二次量级的提升。
• 开发了一种新的 l_infty-范数向量态层析，与某些量子态读出相比在 l_2 局部层析方面提供指数级改进。
• 对 MNIST 的数值仿真表明，QCNN 在测试场景中达到与经典 CNN 相似的分类准确性。