[论文解读] Machine learning in quantum computers via general Boltzmann Machines: Generative and Discriminative training through annealing.

Siddhartha Srivastava, Veera Sundararaghavan|arXiv (Cornell University)|Feb 3, 2020

Quantum Computing Algorithms and Architecture参考文献 9被引用 4

一句话总结

本文提出了一种混合量子-经典框架，利用量子退火器对玻尔兹曼机进行采样，实现生成式与判别式学习。通过在随机梯度下降方案中最小化KL散度，该方法实现了有效的函数逼近，并展示了逻辑电路建模与特定分布的学习能力。

ABSTRACT

We present a Hybrid-Quantum-classical method for learning Boltzmann machines (BM) for generative and discriminative tasks. Boltzmann machines are undirected graphs that form the building block of many learning architectures such as Restricted Boltzmann machines (RBM's) and Deep Boltzmann machines (DBM's). They have a network of visible and hidden nodes where the former are used as the reading sites while the latter are used to manipulate the probability of the visible states. BM's are versatile machines that can be used for both learning distributions as a generative task as well as for performing classification or function approximation as a discriminative task. We show that minimizing KL-divergence works best for training BM for applications of function approximation. In our approach, we use Quantum annealers for sampling Boltzmann states. These states are used to approximate gradients in a stochastic gradient descent scheme. The approach is used to demonstrate logic circuits in the discriminative sense and a specialized two-phase distribution using generative BM.

研究动机与目标

• 开发一种可扩展的混合量子-经典方法，用于在量子硬件上训练玻尔兹曼机。
• 通过同一框架实现生成式建模与判别式任务（如函数逼近）。
• 利用量子退火器高效采样玻尔兹曼态，以近似训练过程中的梯度。
• 证明KL散度最小化在玻尔兹曼机判别式学习中的有效性。

提出的方法

• 利用量子退火器采样玻尔兹曼分布态，替代经典马尔可夫链蒙特卡洛采样。
• 采用带量子采样梯度的随机梯度下降法训练玻尔兹曼机参数。
• 应用混合量子-经典优化循环，其中量子硬件计算能量期望值。
• 在无向图模型中使用可见节点与隐藏节点，以表示数据分布与潜在特征。
• 实施两阶段训练：第一阶段用于生成式分布学习，第二阶段用于判别式函数逼近。
• 通过最小化模型与数据分布之间的KL散度，提升判别式性能。

实验结果

研究问题

• RQ1 量子退火器能否在混合量子-经典框架中有效采样玻尔兹曼态，以训练玻尔兹曼机？
• RQ2 与其它训练目标相比，KL散度最小化是否能提升判别式任务（如函数逼近）的性能？
• RQ3 同一玻尔兹曼机架构能否在生成式建模与判别式分类任务中均有效应用？
• RQ4 量子采样集成如何提升该设置下训练效率与模型准确率？
• RQ5 该方法在建模逻辑电路与特定分布方面的实际限制与能力是什么？

主要发现

• 该方法成功利用量子采样梯度训练玻尔兹曼机以执行判别式任务，KL散度最小化显著提升了函数逼近性能。
• 量子退火实现了对玻尔兹曼态的有效采样，为训练中经典采样提供可行替代方案。
• 该框架在判别式设置下成功实现了对逻辑电路的建模，表明其在量子增强人工智能任务中具有潜力。
• 两阶段训练方法使模型能够学习特定分布，证实了其生成能力。
• 混合架构通过结合经典优化与量子采样，展示了在可扩展量子机器学习中的前景。
• 结果表明，KL散度最小化在通过量子采样训练的玻尔兹曼机中，对判别式学习尤为有效。