[论文解读] Developing Quantum Annealer Driven Data Discovery

Joseph Dulny, Michael Kim|arXiv (Cornell University)|Mar 25, 2016

EEG and Brain-Computer Interfaces参考文献 4被引用 4

一句话总结

本文提出Resampled QBoost（RQBoost），一种增强型量子机器学习方法，通过结合重采样与概率预测的集成，改进了原本专为量子退火设计的QBoost。尽管理论上具有潜力，但在早期商用量子退火机上的实验表明，RQBoost与QBoost在自然语言处理和癫痫预测任务中均表现不如传统机器学习方法，凸显了当前量子退火在机器学习应用中存在硬件限制与算法约束。

ABSTRACT

Machine learning applications are limited by computational power. In this paper, we gain novel insights into the application of quantum annealing (QA) to machine learning (ML) through experiments in natural language processing (NLP), seizure prediction, and linear separability testing. These experiments are performed on QA simulators and early-stage commercial QA hardware and compared to an unprecedented number of traditional ML techniques. We extend QBoost, an early implementation of a binary classifier that utilizes a quantum annealer, via resampling and ensembling of predicted probabilities to produce a more robust class estimator. To determine the strengths and weaknesses of this approach, resampled QBoost (RQBoost) is tested across several datasets and compared to QBoost and traditional ML. We show and explain how QBoost in combination with a commercial QA device are unable to perfectly separate binary class data which is linearly separable via logistic regression with shrinkage. We further explore the performance of RQBoost in the space of NLP and seizure prediction and find QA-enabled ML using QBoost and RQBoost is outperformed by traditional techniques. Additionally, we provide a detailed discussion of algorithmic constraints and trade-offs imposed by the use of this QA hardware. Through these experiments, we provide unique insights into the state of quantum ML via boosting and the use of quantum annealing hardware that are valuable to institutions interested in applying QA to problems in ML and beyond.

研究动机与目标

• 探究基于量子退火的机器学习在QBoost及其扩展RQBoost中的可行性与性能。
• 评估量子退火硬件限制对基于提升法分类器在真实世界机器学习应用中性能的影响。
• 在包括自然语言处理和癫痫预测在内的多样化数据集上，对比基于量子退火的模型（QBoost、RQBoost）与传统机器学习技术的性能。
• 识别阻碍量子退火在解决二分类问题中有效性的算法与硬件局限性。
• 通过分析当前量子退火系统中的权衡，为未来专用量子机器学习算法的开发提供指导。

提出的方法

• 通过应用预测概率的重采样与集成，扩展QBoost，以生成更鲁棒的分类估计器。
• 采用QUBO（二次无约束二值优化）公式将二分类问题映射到量子退火硬件上。
• 采用贪心近似方法处理超出当前硬件的量子比特连通性与规模限制的全连接QUBO问题。
• 采用特征二值化技术（如通过简单模型进行阈值化）将实值特征转换为与量子退火兼容的二值输入。
• 实施一种集成策略，将基于量子的预测与经典模型结合，以提升整体分类性能。
• 在量子退火模拟器和早期商用D-Wave硬件（476个可用量子比特）上开展受控实验，以基准化性能。

实验结果

研究问题

• RQ1 当在量子退火硬件上执行时，RQBoost是否能在自然语言处理和癫痫预测任务中超越传统机器学习方法？
• RQ2 为何QBoost与RQBoost无法在逻辑回归使用收缩正则化可完美分离的数据集上实现完美线性可分？
• RQ3 硬件限制（如量子比特连通性有限、量子比特数量不足、退火参数限制）如何影响基于量子退火的机器学习模型性能？
• RQ4 在设计适用于当前一代量子退火机的量子机器学习流程时，关键的算法权衡是什么？
• RQ5 当与经典模型结合时，量子退火在多大程度上能增强集成学习？

主要发现

• 尽管RQBoost和QBoost在逻辑回归使用收缩正则化可完美分离的线性可分数据集上未能实现完美线性分离，表明当前量子退火硬件存在根本性局限。
• 尽管通过重采样与集成进行了增强，RQBoost在早期商用量子退火机上部署时，在自然语言处理和癫痫预测任务中仍表现不如传统机器学习技术。
• 硬件的量子比特连通性有限以及可用量子比特数量（512个中的476个）限制了可直接求解的QUBO问题的规模与复杂度，导致必须采用近似方法，从而降低性能。
• 全连接QUBO问题（在提升算法中常见）需要额外的映射步骤，降低了可同时优化的有效变量数量。
• 当特征数量超过可用QUBO变量数量时，RQBoost的性能对初始特征空间划分方式高度敏感，表明在高维设置下存在不稳定性。
• 尽管RQBoost本身并非最强的单个模型，但其独特的预测模式在作为经典与量子模型更大集成系统中的组件时，可能具有附加价值。