[论文解读] Benchmarking Quantum Hardware for Training of Fully Visible Boltzmann Machines

Dmytro Korenkevych, Yanbo Xue+5 more|arXiv (Cornell University)|Nov 14, 2016

Quantum Computing Algorithms and Architecture参考文献 18被引用 15

一句话总结

本文针对D-Wave量子退火硬件在训练全可见Boltzmann机时进行了基准测试，表明原始量子采样（k=0 Gibbs步数）在学习具有高能垒的多模态分布时，优于经典对比发散（CD）和持续对比发散（PCD）。尽管与经典Boltzmann分布存在显著偏差，量子采样仍能实现更快且更准确的参数更新，从而带来更优的模型性能。

ABSTRACT

Quantum annealing (QA) is a hardware-based heuristic optimization and sampling method applicable to discrete undirected graphical models. While similar to simulated annealing, QA relies on quantum, rather than thermal, effects to explore complex search spaces. For many classes of problems, QA is known to offer computational advantages over simulated annealing. Here we report on the ability of recent QA hardware to accelerate training of fully visible Boltzmann machines. We characterize the sampling distribution of QA hardware, and show that in many cases, the quantum distributions differ significantly from classical Boltzmann distributions. In spite of this difference, training (which seeks to match data and model statistics) using standard classical gradient updates is still effective. We investigate the use of QA for seeding Markov chains as an alternative to contrastive divergence (CD) and persistent contrastive divergence (PCD). Using $k=50$ Gibbs steps, we show that for problems with high-energy barriers between modes, QA-based seeds can improve upon chains with CD and PCD initializations. For these hard problems, QA gradient estimates are more accurate, and allow for faster learning. Furthermore, and interestingly, even the case of raw QA samples (that is, $k=0$) achieved similar improvements. We argue that this relates to the fact that we are training a quantum rather than classical Boltzmann distribution in this case. The learned parameters give rise to hardware QA distributions closely approximating classical Boltzmann distributions that are hard to train with CD/PCD.

研究动机与目标

• 评估量子退火硬件在加速全可见Boltzmann机训练方面的有效性。
• 表征D-Wave量子硬件的采样分布，并与经典Boltzmann分布进行比较。
• 探究与CD和PCD等经典初始化方法相比，量子采样是否能提升学习效率。
• 评估非Boltzmann特性量子采样对模型训练及参数更新精度的影响。
• 探索使用原始量子采样（k=0）作为马尔可夫链有效种子在训练中的潜力。

提出的方法

• 本研究使用2000量子比特的D-Wave量子退火硬件，对具有稀疏Chimera连通性的能量基模型进行采样。
• 通过基于数据与模型统计的损失函数，采用随机梯度下降训练全可见Boltzmann机，假设模型分布具有Boltzmann形式。
• 该方法比较了三种初始化策略：对比发散（CD）、持续对比发散（PCD）以及作为Gibbs采样种子的量子退火采样（QA）。
• 对每种方法，模型使用k次Gibbs步数（k=0至k=50）进行训练，学习率随迭代次数衰减。
• 通过测试数据与模型分布之间的KL散度评估性能，同时比较经典Boltzmann分布与量子采样模型分布的表现。
• 分析聚焦于人工构建的高能垒多模态问题，其设计可精确求解以供验证。

实验结果

研究问题

• RQ1 在训练全可见Boltzmann机时，量子退火硬件是否相对于CD和PCD等经典采样方法具有计算优势？
• RQ2 在多模态能量景观中，D-Wave量子硬件的采样分布与经典Boltzmann分布相比如何？
• RQ3 与经典初始化方法相比，原始量子采样（k=0）在多大程度上提升了学习性能？
• RQ4 量子硬件采样结果的非Boltzmann特性是否阻碍或促进概率模型的训练？
• RQ5 量子采样是否能实现更快收敛和更精确的参数估计，特别是在高能垒模型中？

主要发现

• 在模态之间具有高能垒的问题中，即使使用原始采样（k=0），量子退火采样（QA）在降低测试集KL散度方面显著优于CD和PCD。
• 使用QA采样作为种子可实现更快学习，达到与CD和PCD相当或更优性能所需的参数更新次数更少。
• 即使不进行Gibbs采样（k=0），原始量子采样也能实现与k=50相近的性能提升，表明量子分布本身对学习具有优势。
• 尽管量子硬件的采样分布与经典Boltzmann分布显著不同，但基于Boltzmann模型假设的梯度更新仍能有效收敛。
• 性能提升的原因在于，学习到的模型参数生成的量子分布能紧密逼近目标经典Boltzmann分布，而CD/PCD难以达到该分布。
• 结果表明，量子硬件不仅可用于优化，还可作为生成模型训练的有效初始化源。