[论文解读] q-means: A quantum algorithm for unsupervised machine learning

Iordanis Kerenidis, Jonas Landman+2 more|arXiv (Cornell University)|Dec 10, 2018

Quantum Computing Algorithms and Architecture参考文献 21被引用 116

一句话总结

q-means 是一种量子聚类算法，模仿 delta-k-means，能够以高概率输出质心，在 QRAM 假设下实现对 N 的亚线性依赖，运行时间在 N 上为 polylogarithmic，在 d 上线性，在 k 上多项式。

ABSTRACT

Quantum machine learning is one of the most promising applications of a full-scale quantum computer. Over the past few years, many quantum machine learning algorithms have been proposed that can potentially offer considerable speedups over the corresponding classical algorithms. In this paper, we introduce q-means, a new quantum algorithm for clustering which is a canonical problem in unsupervised machine learning. The $q$-means algorithm has convergence and precision guarantees similar to $k$-means, and it outputs with high probability a good approximation of the $k$ cluster centroids like the classical algorithm. Given a dataset of $N$ $d$-dimensional vectors $v_i$ (seen as a matrix $V \in \mathbb{R}^{N imes d})$ stored in QRAM, the running time of q-means is $\widetilde{O}\left( k d \fracη{δ^2}κ(V)(μ(V) + k \fracηδ) + k^2 \frac{η^{1.5}}{δ^2} κ(V)μ(V) ight)$ per iteration, where $κ(V)$ is the condition number, $μ(V)$ is a parameter that appears in quantum linear algebra procedures and $η= \max_{i} ||v_{i}||^{2}$. For a natural notion of well-clusterable datasets, the running time becomes $\widetilde{O}\left( k^2 d \frac{η^{2.5}}{δ^3} + k^{2.5} \frac{η^2}{δ^3} ight)$ per iteration, which is linear in the number of features $d$, and polynomial in the rank $k$, the maximum square norm $η$ and the error parameter $δ$. Both running times are only polylogarithmic in the number of datapoints $N$. Our algorithm provides substantial savings compared to the classical $k$-means algorithm that runs in time $O(kdN)$ per iteration, particularly for the case of large datasets.

研究动机与目标

• 将聚类作为一个典型的无监督学习问题来进行动机说明，并解决其在大规模数据集上的可扩展性。
• 开发 k-means 的量子类比（delta-k-means），保留收敛性和近似保证。
• 给出运行时分析，展示对数据点数量 N 的 polylogarithmic 依赖，以及对特征维度 d 的线性依赖。
• 确保该算法输出可用于后续经典或量子任务的经典质心。

提出的方法

• 将 q-means 定义为存储在 QRAM 中的 R^d 的 N 个向量聚类的 delta-k-means 的量子对应物。
• 使用量子子程序进行距离估计、最小值选择、矩阵乘法和态层析以更新质心。
• 给出每次迭代的运行时界限，依赖于 k、d、η（最大行范数）、δ（鲁棒性参数）、κ(V)（条件数），以及来自量子线性代数过程的 μ(V)。
• 利用振幅估计和基于中位数的放大来获得可靠的距离估计。
• 使用向量态层析从算法中创建的量子态中恢复经典质向量。
• 证明 q-means 输出的质心在高概率意义上与 delta-k-means 一致。

实验结果

研究问题

• RQ1 在量子环境中，q-means 能否再现经典 delta-k-means 的行为和保证？
• RQ2 就数据集参数（N、d、k、η、δ、κ(V)、μ(V)）而言，q-means 的每次迭代和整体运行时间要求是什么？
• RQ3 可良好聚类数据模型（well-clusterable data model）如何影响 q-means 的理论保证和运行时间？
• RQ4 生成的质心是否可作为下游任务的经典对象使用，以及其与经典 k-means 的准确性比较？

主要发现

• 每次迭代对于通用数据的运行时间： ~O~(kd η/(δ^2) κ(V)(μ(V)+k η/δ) + k^2 η^1.5/δ^2 κ(V) μ(V)).
• 在可良好聚类数据下的每次迭代运行时间： ~O~(k^2 d η^2.5/δ^3 + k^2.5 η^2/δ^3).
• 运行时间对 N 呈 polylogarithmic、对 d 呈线性依赖，并且对 k、η、1/δ 呈多项式依赖。
• 算法输出的经典质心与 delta-k-means 解在高概率意义上相一致。
• 使用 QRAM 数据结构和量子线性代数子程序，在每次迭代中实现相对于经典 kdN 上界的加速。
• 仿真表明对于大数据集，q-means 可以达到与 k-means 相似甚至更好的运行时间的准确性。