[论文解读] Estimation of effective temperatures in quantum annealers for sampling applications: A case study towards deep learning

Marcello Benedetti, John Realpe-Gómez+2 more|arXiv (Cornell University)|Oct 26, 2015

Quantum Computing Algorithms and Architecture被引用 1

一句话总结

该论文提出了一种用于量子退火机的有效温度估计算法，以实现精确的玻尔兹曼采样，这对于深度学习中受限玻尔兹曼机（RBMs）的训练至关重要。通过考虑实例相关的有效温度，该方法实现了与100步对比发散（CD-100）相当的性能，显著优于CD-1，且与当前最先进的采样效率相当。

ABSTRACT

An increase in the efficiency of sampling from Boltzmann distributions would have a significant impact on deep learning and other machine-learning applications. Recently, quantum annealers have been proposed as a potential candidate to speed up this task, but several limitations still bar these state-of-the-art technologies from being used effectively. One of the main limitations is that, while the device may indeed sample from a Boltzmann-like distribution, quantum dynamical arguments suggest it will do so with an {\it instance-dependent} effective temperature, different from its physical temperature. Unless this unknown temperature can be unveiled, it might not be possible to effectively use a quantum annealer for Boltzmann sampling. In this work, we propose a strategy to overcome this challenge with a simple effective-temperature estimation algorithm. We provide a systematic study assessing the impact of the effective temperatures in the learning of a special class of a restricted Boltzmann machine embedded on quantum hardware, which can serve as a building block for deep-learning architectures. We also provide a comparison to $k$-step contrastive divergence (CD-$k$) with $k$ up to 100. Although assuming a suitable fixed effective temperature also allows us to outperform one step contrastive divergence (CD-1), only when using an instance-dependent effective temperature do we find a performance close to that of CD-100 for the case studied here.

研究动机与目标

• 为解决量子退火机中实例相关的有效温度问题，该问题阻碍了机器学习中可靠玻尔兹曼采样的实现。
• 开发一种实用算法，用于估计量子退火中每个问题实例特有的有效温度。
• 评估估计的有效温度对训练受限玻尔兹曼机（RBMs）在深度学习应用中的影响。
• 将基于实例相关有效温度的量子退火机采样性能与经典CD-k方法（特别是CD-1和CD-100）进行比较。
• 确定当有效温度被正确估计时，量子退火机是否能够实现与高k值CD方法相当的采样质量。

提出的方法

• 提出一种简单算法，基于观测到的采样统计，为每个问题实例估计量子退火机的有效温度。
• 利用量子退火机观测到的样本分布，推断出最匹配玻尔兹曼分布的有效温度。
• 将估计的有效温度应用于在量子硬件上训练受限玻尔兹曼机（RBM），以实现玻尔兹曼采样。
• 将基于量子退火的RBM学习性能与经典CD-k方法进行比较，k值最高达100。
• 采用统计验证方法评估估计的有效温度在多大程度上重现了目标玻尔兹曼分布。
• 系统评估有效温度估计对模型收敛性和采样精度的影响。

实验结果

研究问题

• RQ1 有效温度估计能否提升量子退火机在机器学习任务中玻尔兹曼采样的保真度？
• RQ2 当使用实例相关的有效温度时，基于量子退火机的RBM训练性能与经典CD-k方法相比如何？
• RQ3 当有效温度被正确估计时，量子退火机在多大程度上可以达到CD-100等高k值CD方法的性能？
• RQ4 与实例相关的有效温度相比，使用固定有效温度对RBM学习质量有何影响？
• RQ5 当每个实例都进行有效温度校准时，量子退火机能否实现与CD-100相当的采样效率？

主要发现

• 所提出的有效温度估计算法使量子退火机能够以高保真度从类似玻尔兹曼的分布中采样，其对目标分布的匹配程度优于固定温度方法。
• 当使用实例相关的有效温度时，量子退火机在RBM训练中的性能与经典CD-100相当，后者是本研究中的黄金标准。
• 即使使用固定有效温度，其性能仍优于CD-1但不及CD-100，表明实例特定校准的重要性。
• 该方法表明，当有效温度被正确估计时，量子退火机可作为玻尔兹曼采样在深度学习中的可行加速器。
• 该研究证实，量子动力学效应导致实例相关的有效温度，必须加以考虑，才能释放量子退火机在学习任务中的全部潜力。
• 结果表明，有效温度估计是将量子退火机集成到深度学习流程中的关键使能技术。