[论文解读] Deterministic and random features for large-scale quantum kernel machine

Kouhei Nakaji, Hiroyuki Tezuka+1 more|arXiv (Cornell University)|Sep 5, 2022

Quantum Computing Algorithms and Architecture被引用 4

一句话总结

本文提出用于大规模量子核机的确定性和随机特征映射，实现了可扩展且泛化能力强的量子机器学习。通过证明基于约化密度矩阵（RDM）的量子核可借助具有保证误差边界的低维特征向量进行近似，该方法克服了经典计算成本呈二次增长的可扩展性问题，同时保持了泛化能力，实验验证了在含1,000至10,000个样本的数据集上的有效性。

ABSTRACT

Quantum machine learning (QML) is the spearhead of quantum computer applications. In particular, quantum neural networks (QNN) are actively studied as the method that works both in near-term quantum computers and fault-tolerant quantum computers. Recent studies have shown that supervised machine learning with QNN can be interpreted as the quantum kernel method (QKM), suggesting that enhancing the practicality of the QKM is the key to building near-term applications of QML. However, the QKM is also known to have two severe issues. One is that the QKM with the (inner-product based) quantum kernel defined in the original large Hilbert space does not generalize; namely, the model fails to find patterns of unseen data. The other one is that the classical computational cost of the QKM increases at least quadratically with the number of data, and therefore, QKM is not scalable with data size. This paper aims to provide algorithms free from both of these issues. That is, for a class of quantum kernels with generalization capability, we show that the QKM with those quantum kernels can be made scalable by using our proposed deterministic and random features. Our numerical experiment, using datasets including $O(1,000) \sim O(10,000)$ training data, supports the validity of our method.

研究动机与目标

• 解决近期量子机器学习中量子核方法（QKM）在可扩展性和泛化能力方面的局限性。
• 识别并分析具备泛化能力的量子核（QKGC），重点关注基于约化密度矩阵（RDM）的核。
• 开发基于特征的近似方法（DQF与RQF），将QKM转化为计算成本更低的线性问题。
• 证明基于RDM的QKGC可借助特征映射实现高效近似，从而支持大规模应用。
• 为所提出的特征映射提供近似误差和计算复杂度降低的理论保证。

提出的方法

• 定义具备泛化能力的量子核（QKGC），聚焦于RDM基核作为可行类别。
• 引入确定性量子特征（DQF）作为低维特征映射，通过内积近似RDM基量子核。
• 提出随机化量子特征（RQF）作为DQF的随机变体，支持高效采样并控制误差边界。
• 理论分析证明，DQF与RQF均可在保证误差边界的前提下近似原始RDM核，确保泛化性与可扩展性。
• 利用特征映射将核岭回归转化为复杂度为O(MD²)的线性模型，其中D为特征维数，M为数据点数量。
• 通过在含1,000至10,000个样本的wine quality与magic04数据集上进行数值实验，验证方法性能，并与Nystrom方法进行比较。

实验结果

研究问题

• RQ1 具备泛化能力的量子核方法能否在大规模数据集上实现可扩展性？
• RQ2 基于RDM的量子核是否可实现具有理论误差保证的低维特征近似？
• RQ3 与经典核近似方法（如Nystrom）相比，确定性与随机化量子特征（DQF与RQF）在性能与效率上表现如何？
• RQ4 QKGC的特征表示能否作为设计具备量子优势的新量子核方法的新范式？
• RQ5 调节特征映射参数（如嵌入参数）对最终机器学习模型性能有何影响？

主要发现

• 所提出的确定性与随机化量子特征（DQF与RQF）可对基于RDM的量子核实现具有保证误差边界的近似。
• 所得到的机器学习模型计算成本从O(M³)降低至O(MD²)，实现了对含O(1,000)至O(10,000)个样本数据集的可扩展性。
• 数值实验表明，DQF在wine quality与magic04数据集的回归与分类任务中均优于Nystrom方法。
• RQF在相同数据集上未超越Nystrom方法，但为未来调优与优化提供了灵活性。
• 理论分析确认，基于约化密度矩阵（RDM）的量子核是QKGC的主要可行类别，其他构造（如约化可观测量）近似等价或缺乏量子优势。
• 特征表示框架提供了一种新设计准则：任何新QKGC都应可通过特征向量表达，以确保可扩展性与泛化能力。