[论文解读] Random Quantum Neural Networks (RQNN) for Noisy Image Recognition

Debanjan Konar, Erol Gelenbe+3 more|arXiv (Cornell University)|Mar 3, 2022

Quantum Computing Algorithms and Architecture被引用 7

一句话总结

该论文提出了一种随机量子神经网络（RQNN），这是一种混合经典-量子模型，利用叠加和振幅编码来提升噪声图像识别性能。通过将变分量子电路与基于参数偏移规则的经典训练相结合，RQNN在MNIST、FashionMNIST和KMNIST数据集上实现了94.9%的平均准确率，优于经典RNN、SNN和AlexNet在噪声环境下的表现。

ABSTRACT

Classical Random Neural Networks (RNNs) have demonstrated effective applications in decision making, signal processing, and image recognition tasks. However, their implementation has been limited to deterministic digital systems that output probability distributions in lieu of stochastic behaviors of random spiking signals. We introduce the novel class of supervised Random Quantum Neural Networks (RQNNs) with a robust training strategy to better exploit the random nature of the spiking RNN. The proposed RQNN employs hybrid classical-quantum algorithms with superposition state and amplitude encoding features, inspired by quantum information theory and the brain's spatial-temporal stochastic spiking property of neuron information encoding. We have extensively validated our proposed RQNN model, relying on hybrid classical-quantum algorithms via the PennyLane Quantum simulator with a limited number of \emph{qubits}. Experiments on the MNIST, FashionMNIST, and KMNIST datasets demonstrate that the proposed RQNN model achieves an average classification accuracy of $94.9\%$. Additionally, the experimental findings illustrate the proposed RQNN's effectiveness and resilience in noisy settings, with enhanced image classification accuracy when compared to the classical counterparts (RNNs), classical Spiking Neural Networks (SNNs), and the classical convolutional neural network (AlexNet). Furthermore, the RQNN can deal with noise, which is useful for various applications, including computer vision in NISQ devices. The PyTorch code (https://github.com/darthsimpus/RQN) is made available on GitHub to reproduce the results reported in this manuscript.

研究动机与目标

• 为解决经典随机神经网络（RNN）在模式识别中的局限性，特别是其准确率较低且抗噪能力差于深度学习模型的问题。
• 通过设计一种新型监督式随机量子神经网络（RQNN）架构，利用量子优势（如叠加和振幅编码）来实现。
• 在混合经典-量子框架中，开发一种基于变分量子电路和参数偏移规则的稳健训练策略，以优化量子参数。
• 在噪声条件下评估RQNN在标准图像数据集上的性能，证明其在准确率和抗噪能力方面优于经典模型。

提出的方法

• RQNN模型采用混合经典-量子架构，将输入数据通过振幅编码映射为量子态，并利用变分量子电路（VQC）进行特征提取。
• 量子层使用带有可训练参数ρ和σ的RX和RY旋转门，通过参数偏移规则进行梯度下降更新，实现高效的反向传播。
• 损失函数定义为二元交叉熵：𝒪(θ) = Σⱼ [γⱼ log z(ωⱼ) + (1−γⱼ) log(1−z(ωⱼ))]，其中z(ωⱼ)是输入ωⱼ的预测输出。
• 利用参数偏移规则计算损失关于旋转角度的梯度：∂z/∂ρⱼᶿ = ½[ℳᶿ₊₁₍ρ±π/₂₎ − ℳᶿ₍ρ±π/₂₎]，σ的表达式类似。
• 使用PennyLane量子模拟器对模型进行训练，受限于少量量子比特，从而实现对量子电路参数的高效优化。
• MNIST、FashionMNIST和KMNIST的数据通过振幅编码转化为量子态，保留输入结构以用于分类。

实验结果

研究问题

• RQ1 能否通过利用量子叠加和振幅编码的混合经典-量子神经网络，在噪声环境下超越经典RNN在图像识别中的表现？
• RQ2 将变分量子电路与随机脉冲神经元原理相结合，是否能增强模型对噪声输入的鲁棒性？
• RQ3 在MNIST、FashionMNIST和KMNIST等标准基准数据集上，RQNN在噪声条件下的可实现分类准确率是多少？
• RQ4 参数偏移规则如何在监督式RQNN框架中实现对量子电路的有效反向传播？

主要发现

• 所提出的RQNN模型在标准条件下于MNIST、FashionMNIST和KMNIST数据集上实现了94.9%的平均分类准确率。
• RQNN在噪声环境下的抗噪能力显著优于经典RNN、脉冲神经网络（SNN）和AlexNet，保持了更高的准确率。
• 采用振幅编码和变分量子电路，可在有限量子比特框架内高效表示和处理图像数据。
• 参数偏移规则能够有效计算量子参数的梯度，支持RQNN模型的端到端训练。
• RQNN框架通过量子叠加有效利用了生物神经元的随机脉冲行为，增强了对噪声的容忍能力。
• GitHub上的开源PyTorch实现确保了报告结果的完全可复现性。