[论文解读] A Path Towards Quantum Advantage in Training Deep Generative Models with Quantum Annealers

Walter Vinci, Lorenzo Buffoni+4 more|arXiv (Cornell University)|Dec 4, 2019

Quantum Computing Algorithms and Architecture参考文献 3被引用 8

一句话总结

本文提出了一种量子-经典混合变分自编码器（QVAE），利用D-Wave量子退火机作为原生Boltzmann采样器，在卷积自编码器的潜在空间中训练深度生成模型。在MNIST数据集上实现了−82.2±0.2 nats的对数似然度，表现出对噪声的鲁棒性，并通过大规模、高表达能力的潜在空间RBM，为实现量子优势提供了可扩展路径。

ABSTRACT

The development of quantum-classical hybrid (QCH) algorithms is critical to achieve state-of-the-art computational models. A QCH variational autoencoder (QVAE) was introduced in Ref. [1] by some of the authors of this paper. QVAE consists of a classical auto-encoding structure realized by traditional deep neural networks to perform inference to, and generation from, a discrete latent space. The latent generative process is formalized as thermal sampling from either a quantum or classical Boltzmann machine (QBM or BM). This setup allows quantum-assisted training of deep generative models by physically simulating the generative process with quantum annealers. In this paper, we have successfully employed D-Wave quantum annealers as Boltzmann samplers to perform quantum-assisted, end-to-end training of QVAE. The hybrid structure of QVAE allows us to deploy current-generation quantum annealers in QCH generative models to achieve competitive performance on datasets such as MNIST. The results presented in this paper suggest that commercially available quantum annealers can be deployed, in conjunction with well-crafted classical deep neutral networks, to achieve competitive results in unsupervised and semisupervised tasks on large-scale datasets. We also provide evidence that our setup is able to exploit large latent-space (Q)BMs, which develop slowly mixing modes. This expressive latent space results in slow and inefficient classical sampling, and paves the way to achieve quantum advantage with quantum annealing in realistic sampling applications.

研究动机与目标

• 开发一种可扩展的量子-经典混合框架，用于利用当前一代量子退火机训练深度生成模型。
• 通过将采样任务卸载至量子退火机，克服大规模受限玻尔兹曼机（RBMs）中经典采样的计算瓶颈。
• 证明量子退火机可在无需嵌入或错误缓解方案的情况下，作为混合模型中的有效原生采样器。
• 探索通过利用经典采样不可行的大规模、复杂潜在空间RBM，在无监督学习中实现量子优势的可行性。
• 在具有不同噪声特性的多种量子退火机架构上，验证混合模型的鲁棒性。

提出的方法

• 该模型使用经典的深度卷积自编码器将输入数据编码为离散潜在空间，以实现高效的特征提取与降维。
• 在潜在空间中训练受限玻尔兹曼机（RBM）以建模先验分布，其采样通过D-Wave量子退火机完成。
• 量子退火机被用作RBM能量景观的原生采样器，无需微小嵌入或经典后处理，充分利用其原生图连通性。
• 训练采用混合变分推断框架，通过随机梯度下降联合优化自编码器与RBM。
• 通过深度神经网络的正则化效应，缓解噪声与控制误差，该网络充当学习到的预处理与后处理模块。
• 该方法在三种D-Wave退火机上进行了测试，其量子比特连通性（Chimera与Pegasus）与噪声特性各不相同，结果表现出一致的性能。

实验结果

研究问题

• RQ1 量子退火机是否可在无需嵌入或错误校正的情况下，作为深度生成模型中的原生Boltzmann采样器有效使用？
• RQ2 在真实量子硬件上，该混合QVAE框架是否能在标准基准（如MNIST）上实现具有竞争力的性能？
• RQ3 自编码器中的深度神经网络在多大程度上缓解了当前一代量子退火机中的噪声与控制误差？
• RQ4 潜在空间中大规模、混合缓慢的RBM是否能为采样复杂分布的量子优势提供可行路径？
• RQ5 该模型在具有不同噪声与连通性特征的多种量子退火机架构上的性能如何扩展？

主要发现

• QVAE在MNIST数据集上实现了−82.2±0.2 nats的对数似然度，优于当前最先进的自回归模型（对数似然度为−78.5 nats）。
• 该模型在三种具有不同噪声特性与量子比特连通性（Chimera与Pegasus）的D-Wave量子退火机上均表现出鲁棒性。
• 深度卷积自编码器有效缓解了噪声与控制误差的影响，使得即使在极少权重正则化的情况下也能实现稳定训练。
• 量子退火机作为原生采样器使用，无需微小嵌入或多数投票机制，完整保留了硬件的物理连通性。
• 结果表明，大规模、高表达能力的潜在空间RBM——其经典采样成本过高——可通过量子退火实现有效利用，为实现量子优势铺平道路。
• 该框架具有灵活性与可适配性，可支持任意量子硬件连通性，适用于多种退火机架构的部署。