[论文解读] Quantum Ensemble for Classification

Antonio Macaluso, L. Clissa+2 more|arXiv (Cornell University)|Jul 2, 2020

Quantum Computing Algorithms and Architecture被引用 11

一句话总结

该论文提出了一种量子集成分类算法，利用量子叠加和纠缠，仅通过 log(B) 次操作在叠加态中生成 B 个分类器，实现分类器数量的指数级扩展，同时保持电路深度线性增长。该方法实现了弱分类器训练的加法时间复杂度，优于经典集成方法，并通过基于余弦分类器的量子袋袋法，在真实世界数据集上实现了更高的准确率和更低的方差。

ABSTRACT

A powerful way to improve performance in machine learning is to construct an ensemble that combines the predictions of multiple models. Ensemble methods are often much more accurate and lower variance than the individual classifiers that make them up but have high requirements in terms of memory and computational time. In fact, a large number of alternative algorithms is usually adopted, each requiring to query all available data. We propose a new quantum algorithm that exploits quantum superposition, entanglement and interference to build an ensemble of classification models. Thanks to the generation of the several quantum trajectories in superposition, we obtain $B$ transformations of the quantum state which encodes the training set in only $log\left(B ight)$ operations. This implies exponential growth of the ensemble size while increasing linearly the depth of the correspondent circuit. Furthermore, when considering the overall cost of the algorithm, we show that the training of a single weak classifier impacts additively the overall time complexity rather than multiplicatively, as it usually happens in classical ensemble methods. We also present small-scale experiments on real-world datasets, defining a quantum version of the cosine classifier and using the IBM qiskit environment to show how the algorithms work.

研究动机与目标

• 解决经典集成方法在机器学习中计算和内存成本过高的问题。
• 利用叠加和纠缠实现的量子并行性，同时生成大量分类器。
• 通过量子线路设计，将集成训练的时间复杂度从乘法降低为加法。
• 通过量子模拟和 IBM Qiskit 在真实世界数据集上展示方法的实际可行性。
• 为基于振幅编码和基于干涉的分类器的可扩展量子集成学习奠定基础。

提出的方法

• 该算法将训练数据编码为量子态，并使用 d 个控制量子比特生成 2^d 个叠加态的量子轨迹。
• 每个轨迹与一个控制量子比特纠缠，代表一个独立的分类器，通过单次态制备实现 B 个弱学习器的并行训练。
• 该方法采用酉操作 U_{(i,j)} 在叠加态中生成多样化的训练集，通过量子采样模拟经典袋袋法。
• 使用量子余弦分类器作为基模型，通过所有轨迹的预测结果平均形成集成输出。
• 整体电路深度随 d 线性增长，而分类器数量按指数级增长，即 B = 2^d。
• 该框架在 Iris 和 MNIST 数据集的简化版本上使用 IBM Qiskit 量子模拟器进行了实现与测试。

实验结果

研究问题

• RQ1 能否利用量子叠加和纠缠同时生成大量分类器，从而减少对重复经典训练的需求？
• RQ2 所提出的量子集成方法是否比单个量子分类器具有更低的方差和更高的准确率？
• RQ3 在量子环境下，能否将多个分类器训练的时间复杂度从乘法降低为加法？
• RQ4 在真实世界数据集上，量子集成的性能如何随集成规模 B 的增加而变化？
• RQ5 当前量子实现的实用限制是什么，尤其是在扩展到更大数据集时？

主要发现

• 随着集成规模 B 的增加，量子集成显著降低了测试集误差（BS）并提高了准确率，证实了泛化能力的提升。
• 在 Iris 数据集（0 对 1）上，当 B = 8（d = 3）时，准确率达到 1.0，BS 从 0.284 降至 0.136，表明方差显著降低。
• 在 MNIST 数据集上，当 B 从 1 增加到 8 时，准确率从 0.50 提升至 0.84，BS 从 0.337 降至 0.197。
• 集成预测结果始终与各分类器概率的平均值一致，验证了量子平均机制的有效性。
• 该方法在所有测试数据集上系统性优于单个量子分类器，性能提升显著。
• 该算法的性能受限于当前无法同时处理多个测试样本，凸显了高效数据编码策略的必要性。