[论文解读] Quantum Neuron: an elementary building block for machine learning on quantum computers

Yudong Cao, Gian Giacomo Guerreschi+1 more|arXiv (Cornell University)|Nov 30, 2017

Quantum Computing Algorithms and Architecture参考文献 27被引用 113

一句话总结

本文介绍一种由 repeat-until-success 电路构建的量子神经元，用以实现非线性激活，从而使量子前馈网络和类似 Hopfield 的联想记忆成为可能，并且能够从输入的叠加态中学习。

ABSTRACT

Even the most sophisticated artificial neural networks are built by aggregating substantially identical units called neurons. A neuron receives multiple signals, internally combines them, and applies a non-linear function to the resulting weighted sum. Several attempts to generalize neurons to the quantum regime have been proposed, but all proposals collided with the difficulty of implementing non-linear activation functions, which is essential for classical neurons, due to the linear nature of quantum mechanics. Here we propose a solution to this roadblock in the form of a small quantum circuit that naturally simulates neurons with threshold activation. Our quantum circuit defines a building block, the "quantum neuron", that can reproduce a variety of classical neural network constructions while maintaining the ability to process superpositions of inputs and preserve quantum coherence and entanglement. In the construction of feedforward networks of quantum neurons, we provide numerical evidence that the network not only can learn a function when trained with superposition of inputs and the corresponding output, but that this training suffices to learn the function on all individual inputs separately. When arranged to mimic Hopfield networks, quantum neural networks exhibit properties of associative memory. Patterns are encoded using the simple Hebbian rule for the weights and we demonstrate attractor dynamics from corrupted inputs. Finally, the fact that our quantum model closely captures (traditional) neural network dynamics implies that the vast body of literature and results on neural networks becomes directly relevant in the context of quantum machine learning.

研究动机与目标

• 为经典神经元提供一个保持相干性和纠缠的量子类比并对其进行表述。
• 提出一种量子电路结构，使用 repeat-until-success (RUS) 电路模拟阈值/ sigmoid 激活。
• 演示量子神经元如何形成前馈网络和 Hopfield 网络。
• 展示从训练数据的叠加态中学习，并建立与经典神经网络理论的联系。

提出的方法

• 将经典神经元输入映射到量子比特上的旋转，从而得到编码激活的量子态。
• 通过实现 Ry(2q(theta)) 这样的旋转的 repeat-until-success (RUS) 电路来实现非线性激活，其中 q(theta)=arctan(tan^2 theta)。
• 使用受控旋转和基于 ancilla 的 RUS 方案来模拟阈值行为，并将输出驱动到吸引子态。
• 给出理论运行时间分析，包括定理1给出的达到所需精度的期望运行时间界。
• 证明量子神经元能够以量子形式模拟经典前馈网络（定理2）和 Hopfield 网络（定理3）。
• 展示从训练数据的叠加态学习，并通过可测相关性（如输出与目标量子比特之间的 <ZZ>）来评估训练。

实验结果

研究问题

• RQ1 量子电路是否能够实现与量子力学兼容的非线性激活，以模拟经典神经元？
• RQ2 量子神经元网络是否能够执行前馈计算并近似经典深度神经网络？
• RQ3 量子 Hopfield 网络是否表现出与经典 Hopfield 网络相似的联想记忆和吸引子动力学？
• RQ4 用量子神经元模拟经典网络和 Hopfield 动力学的资源成本（时间、量子比特）是多少？
• RQ5 当训练数据以叠加态而非经典批次呈现时，学习是否可行？

主要发现

• 构建了一种量子神经元，使用 repeat-until-success 电路实现阈值样的非线性激活。
• 本文给出获得带有指定精度的激活输出量子比特的正式运行时间界（定理1）。
• 给出一种量子算法，能够以带步骤激活的方式模拟一个 ell-layer 的经典深度前馈神经网络，包括量子比特/运行时间的尺度（定理2）。
• 一个带量子神经元的量子 Hopfield 网络可以在可证明的效率下模拟 t 次更新，并保持与联想记忆类似的吸引子动力学（定理3）。
• 数值结果表明在叠加训练数据和 Nelder–Mead 优化下学习 XOR 和 8 位奇偶函数，表明从量子叠加态学习是可行的。