[论文解读] Restricted Boltzmann Machines for galaxy morphology classification with a quantum annealer

João F. Caldeira, Joshua Job+3 more|arXiv (Cornell University)|Nov 14, 2019

Neural dynamics and brain function被引用 5

一句话总结

本文探讨了使用 D-Wave 2000Q 量子退火机训练限制型玻尔兹曼机（RBMs）进行星系形态分类的可行性。结果表明，基于量子退火的 RBM 在小样本数据集上优于经典算法，但在大规模数据集上并未展现出相对于梯度提升树的广泛性能优势，凸显了其在低数据场景下的潜在应用价值。

ABSTRACT

We present the application of Restricted Boltzmann Machines (RBMs) to the task of astronomical image classification using a quantum annealer built by D-Wave Systems. Morphological analysis of galaxies provides critical information for studying their formation and evolution across cosmic time scales. We compress galaxy images using principal component analysis to fit a representation on the quantum hardware. Then, we train RBMs with discriminative and generative algorithms, including contrastive divergence and hybrid generative-discriminative approaches, to classify different galaxy morphologies. The methods we compare include Quantum Annealing (QA), Markov Chain Monte Carlo (MCMC) Gibbs Sampling, and Simulated Annealing (SA) as well as machine learning algorithms like gradient boosted decision trees. We find that RBMs implemented on D-Wave hardware perform well, and that they show some classification performance advantages on small datasets, but they don't offer a broadly strategic advantage for this task. During this exploration, we analyzed the steps required for Boltzmann sampling with the D-Wave 2000Q, including a study of temperature estimation, and examined the impact of qubit noise by comparing and contrasting the original D-Wave 2000Q to the lower-noise version recently made available. While these analyses ultimately had minimal impact on the performance of the RBMs, we include them for reference.

研究动机与目标

• 探究使用量子退火硬件（D-Wave 2000Q）训练 RBM 进行天文物体图像分类的可行性。
• 将基于量子退火的 RBM 训练方法与经典方法（如 MCMC、模拟退火和梯度提升树）进行比较。
• 评估数据压缩与量子比特噪声对使用近期量子硬件时 RBM 性能的影响。
• 确定在星系形态分类任务中，量子退火是否能带来性能优势，特别是在低数据量场景下。
• 评估后处理技术对提升 D-Wave 系统上玻尔兹曼采样保真度的影响。

提出的方法

• 使用主成分分析（PCA）对星系图像进行压缩，以适配 D-Wave 2000Q 的有限量子比特数量。
• 实现具有判别式与生成式训练算法的 RBMs，包括对比散度及混合生成-判别方法。
• 将 D-Wave 2000Q 用作通过量子退火（QA）采样玻尔兹曼分布的采样引擎，并辅以吉布斯采样作为后处理步骤。
• 将量子退火与经典优化方法（如 MCMC 吉布斯采样和模拟退火（SA））进行比较。
• 使用逻辑回归和梯度提升决策树作为基线经典模型进行模型训练与评估。
• 通过对比原始 D-Wave 2000Q 与低噪声版本，分析温度估计与量子比特噪声的影响。

实验结果

研究问题

• RQ1 基于近期量子硬件，量子退火能否有效训练 RBM 用于星系形态分类？
• RQ2 基于量子退火的 RBM 训练是否优于经典训练方法，尤其是在小样本数据集上？
• RQ3 后处理技术如何影响 D-Wave 系统上玻尔兹曼采样保真度及后续 RBM 性能？
• RQ4 量子比特噪声与温度估计对量子训练 RBM 分类准确率有何影响？
• RQ5 在何种条件下（如数据量、训练轮次）量子退火能为经典机器学习模型带来可测量的优势？

主要发现

• 在小样本数据集（250 个训练样本）上，基于量子退火的 RBM 表现优异，优于逻辑回归与梯度提升树，后者表现出显著过拟合。
• 在小样本数据集与有限训练轮次下，QA 训练的 RBM 优于所有经典 RBM 及基线算法，表明其在低数据场景下具有特定优势。
• 在大规模数据集上，梯度提升树始终优于所有 RBM 变体，无论采用何种训练方法，表明在此设置下量子训练并无广泛战略优势。
• 用于提升玻尔兹曼采样保真度的后处理技术对 RBM 性能影响甚微，因此作者选择最小化此类处理以提升可解释性。
• 研究发现，在相空间的某些区域，量子计算机的表现优于经典方法，尤其在训练初期与数据有限时。
• 尽管更大规模量子资源具有潜力，但当前的数据压缩需求限制了更大 RBM 的优势，表明未来在更高量子比特系统或替代压缩方法下可能实现性能突破。