[论文解读] A quantum-inspired classical algorithm for recommendation systems

Ewin Tang|arXiv (Cornell University)|Jul 10, 2018

Quantum Computing Algorithms and Architecture被引用 11

一句话总结

本文提出了一种经典算法，其运行时间几乎与Kerenidis和Prakash的量子推荐系统相当，对于低秩-$k$逼近，运行时间为$O(\operatorname{poly}(k)\log(mn))$。通过利用特定数据结构支持的$\ell^2$-范数采样，该经典算法在效率上匹配了量子加速，表明在此情况下量子优势仅为多项式级别，而非指数级别。

ABSTRACT

We give a classical analogue to Kerenidis and Prakash's quantum recommendation system, previously believed to be one of the strongest candidates for provably exponential speedups in quantum machine learning. Our main result is an algorithm that, given an $m imes n$ matrix in a data structure supporting certain $\ell^2$-norm sampling operations, outputs an $\ell^2$-norm sample from a rank-$k$ approximation of that matrix in time $O( ext{poly}(k)\log(mn))$, only polynomially slower than the quantum algorithm. As a consequence, Kerenidis and Prakash's algorithm does not in fact give an exponential speedup over classical algorithms. Further, under strong input assumptions, the classical recommendation system resulting from our algorithm produces recommendations exponentially faster than previous classical systems, which run in time linear in $m$ and $n$. The main insight of this work is the use of simple routines to manipulate $\ell^2$-norm sampling distributions, which play the role of quantum superpositions in the classical setting. This correspondence indicates a potentially fruitful framework for formally comparing quantum machine learning algorithms to classical machine learning algorithms.

研究动机与目标

• 挑战人们认为Kerenidis和Prakash的量子推荐系统相对于经典算法具有指数级加速的信念。
• 构建一个经典对应算法，在相同输入假设下复现量子算法的性能。
• 通过展示具有类似运行时间的经典算法，证明在此场景下量子加速仅为多项式级别，而非指数级别。
• 将量子叠加态与经典$\ell^2$-范数采样分布之间的对应关系形式化，作为比较量子与经典机器学习的框架。
• 在强输入假设下验证经典算法在生成高质量推荐方面的有效性，其误差界与量子版本一致。

提出的方法

• 使用支持对矩阵行和列进行$\ell^2$-范数采样操作的数据结构，类似于量子态制备。
• 采用向量采样例程，通过经典概率分布模拟量子振幅放大和投影步骤。
• 通过迭代采样和误差控制实现低秩逼近，使用$\|A_{\sigma,\eta} - D\|_F$来界定逼近误差。
• 使用切尔诺夫不等式和集中不等式控制对真实矩阵Frobenius范数估计的误差。
• 采用总变差距离比较经典算法输出分布与目标推荐分布。
• 应用马尔可夫不等式和计数论证，证明对于常数比例的用户，比值$\|A_i\| / \|D_i\|$保持有界，从而确保运行时间效率。

实验结果

研究问题

• RQ1 经典算法能否实现与Kerenidis和Prakash的量子推荐系统相同的渐近运行时间？
• RQ2 此推荐系统中的量子加速是否真正为指数级，还是仅为多项式级？
• RQ3 经典$\ell^2$-范数采样例程能否模拟量子机器学习算法中量子叠加态的作用？
• RQ4 在何种输入假设下，该经典算法优于先前运行时间为线性时间的经典推荐系统？
• RQ5 在保持亚线性查询复杂度的同时，经典算法在多大程度上能匹配量子推荐系统的误差界？

主要发现

• 该经典算法的运行时间为$O(\operatorname{poly}(k)\log(mn))$，与量子算法的运行时间仅相差一个多项式因子。
• 该算法实现了与量子算法相同的总变差误差界，误差为$O(\varepsilon + \rho)\|T\|_F$，其中$\varepsilon$控制逼近误差，$\rho$控制低秩逼近误差。
• 对于常数比例的用户，比值$\|A_i\| / \|D_i\|$有界，确保了算法的单用户运行时间保持高效。
• 尽管使用经典采样，该经典算法产生的推荐失败概率仍为$O(\varepsilon^2)$，与量子算法一致。
• Frobenius范数误差$\|T - D\|_F$被限制在$O(\rho + \varepsilon)\|T\|_F$以内，表明经典逼近与真实低秩矩阵接近。
• 该结果反驳了在此情况下存在指数级量子加速的主张，表明量子优势仅为多项式级别。