[论文解读] Quantum Bayesian Neural Networks

Noah Berner, Vincent Fortuin+1 more|arXiv (Cornell University)|Jul 20, 2021

Quantum Computing Algorithms and Architecture参考文献 36被引用 4

一句话总结

该论文提出了一种用于贝叶斯神经网络（BNN）推理的量子算法，该算法将经典的内积计算替换为一种改进的量子内积估计（IPE）算法，消除了重复评估的需求。该方法仅通过每次样本一次量子计算即可实现精确的后验近似，在小规模量子模拟中也表现出强劲的实验性能，从而在存在噪声的情况下实现了贝叶斯学习的潜在量子加速。

ABSTRACT

Quantum machine learning promises great speedups over classical algorithms, but it often requires repeated computations to achieve a desired level of accuracy for its point estimates. Bayesian learning focuses more on sampling from posterior distributions than on point estimation, thus it might be more forgiving in the face of additional quantum noise. We propose a quantum algorithm for Bayesian neural network inference, drawing on recent advances in quantum deep learning, and simulate its empirical performance on several tasks. We find that already for small numbers of qubits, our algorithm approximates the true posterior well, while it does not require any repeated computations and thus fully realizes the quantum speedups.

研究动机与目标

• 探索尽管存在噪声的含噪声中等规模量子（NISQ）硬件，贝叶斯神经网络（BNNs）是否能从量子加速中受益。
• 通过利用BNN对噪声参数估计具有内在容错性的特点，解决量子噪声在内积估计中的挑战。
• 开发并模拟一种量子算法，将经典内积计算替换为单次量子IPE，避免经典方法所需的重复评估。
• 通过实证验证，证明每次样本仅使用一次量子计算的量子BNN推理能够有效近似真实后验分布，即使在量子比特数量有限的情况下亦然。

提出的方法

• 通过调整Kerenidis等人（2018）提出的量子内积估计（IPE）算法，消除中位数评估步骤，与标准IPE相比，运行时间减少log(1/Δ)倍。
• 利用幅度估计和相位估计子程序，估计权重向量与激活向量在量子叠加态下的内积，输出映射为具有噪声但可用的估计值。
• 采用量子随机存取存储器（qRAM）模型，以多对数时间复杂度将输入向量加载为量子态，实现高效的态制备。
• 对IPE进行修改，使其每个样本仅接受一次估计，依赖BNN的后验采样特性来容忍量子计算中的固有噪声。
• 在马尔可夫链蒙特卡洛（MCMC）框架（如SGLD、HMC或NUTS）中应用量子IPE，使用量子估计的梯度进行参数更新。
• 在不同量子比特数（n=5至n=13）下，对线性回归和二分类任务进行算法仿真，比较经典与量子推理及预测性能。

实验结果

研究问题

• RQ1 每次样本仅通过一次评估的量子内积估计，是否能在贝叶斯神经网络中产生足够精确的后验近似？
• RQ2 尽管IPE子程序存在固有噪声，量子BNN推理的性能如何随量子比特数量的增加而变化？
• RQ3 贝叶斯推理的固有噪声容错性是否允许在使用噪声且单次评估的量子计算时实现有意义的量子加速？
• RQ4 不同的初始化策略（满秩与低秩）如何影响量子BNN推理的收敛性与准确性？
• RQ5 量子BNN推理在多大程度上能近似真实后验预测分布，相较于经典基线方法？

主要发现

• 所提出的量子IPE算法仅通过每次样本一次量子计算即可实现精确的后验近似，消除了经典量子算法中所需的重复评估。
• 在少量量子比特（n=5至n=13）的情况下，量子BNN推理能紧密近似真实后验分布，表现为后验预测标准差低且预测准确率高。
• 仿真结果表明，增加量子比特数量（n）可一致提升后验近似的质量，表明该方法具有可扩展性。
• 该方法在IPE相位估计子程序中固有的非各向同性和周期性噪声模式下表现良好，表明对NISQ时代常见噪声具有鲁棒性。
• 满秩与低秩权重初始化均表现出稳定性能，量子推理质量无显著下降，表明与标准BNN训练实践兼容。
• 在后验预测准确性方面，量子推理流水线（QICP）优于经典推理（CICP）和经典量子推理（CIQP），尤其在量子比特数量增加时表现更优。