[论文解读] On establishing learning separations between classical and quantum machine learning with classical data

Casper Gyurik, Vedran Dunjko|arXiv (Cornell University)|Aug 12, 2022

Quantum Computing Algorithms and Architecture被引用 9

一句话总结

本文提出了两个通用检查清单——基于随机可验证函数和基于复杂度类假设的量子生成数据——以识别在经典数据机器学习中证明可证明量子优势的充分条件。该文阐明了细微的定义变化如何影响学习分离，并在已知及潜在的量子-经典学习分离案例中应用了这些检查清单。

ABSTRACT

Despite years of effort, the quantum machine learning community has only been able to show quantum learning advantages for certain contrived cryptography-inspired datasets in the case of classical data. In this note, we discuss the challenges of finding learning problems that quantum learning algorithms can learn much faster than any classical learning algorithm, and we study how to identify such learning problems. Specifically, we reflect on the main concepts in computational learning theory pertaining to this question, and we discuss how subtle changes in definitions can mean conceptually significantly different tasks, which can either lead to a separation or no separation at all. Moreover, we study existing learning problems with a provable quantum speedup to distill sets of more general and sufficient conditions (i.e., ``checklists'') for a learning problem to exhibit a separation between classical and quantum learners. These checklists are intended to streamline one's approach to proving quantum speedups for learning problems, or to elucidate bottlenecks. Finally, to illustrate its application, we analyze examples of potential separations (i.e., when the learning problem is build from computational separations, or when the data comes from a quantum experiment) through the lens of our approach.

研究动机与目标

• 为解决长期存在的挑战：在经典数据的机器学习中证明量子优势，此前仅在受密码学启发的构造性数据集中展现出此类分离。
• 澄清计算困难性与学习困难性之间的概念差异，这一差异常导致学习分离定义时产生混淆。
• 提炼出一般性的、充分的条件（即“检查清单”），以简化经典与量子学习者之间学习分离的证明过程。
• 将这些检查清单应用于已知及潜在的学习分离实例，揭示现有证明中缺失的步骤或瓶颈。
• 通过识别哪些问题更可能在实际、由经典提供数据的场景中产生可证明的量子加速，为未来研究提供指导。

提出的方法

• 提出定理3，基于随机可验证函数的检查清单，用于在数据可高效生成时识别学习分离。
• 引入定理4，涉及计算复杂度类（如BQP、BPP、PH）的检查清单，用于评估源自量子实验的数据的分离情况。
• 运用计算学习理论中的概念（如PAC学习、函数评估的困难性）来形式化量子学习者优于经典学习者的条件。
• 分析[ LAT21 ]和[ SG04 ]中的现有学习分离，以验证检查清单的有效性并展示其适用性。
• 将检查清单应用于潜在的学习问题，例如基于计算分离或量子生成数据的问题，以诊断为何分离未能实现。
• 突出显示经典学习者如何利用数据访问来计算原本经典不可行的函数，揭示了证明分离过程中的关键瓶颈。

实验结果

研究问题

• RQ1 学习困难性与计算困难性之间的哪些定义性差异会导致有效或无效的学习分离？
• RQ2 在经典数据上训练时，量子机器学习算法在何种条件下可被证明优于任何经典学习者？
• RQ3 我们如何系统性地识别给定学习问题是否包含可证明量子优势的必要要素？
• RQ4 为何一些看似有前途的学习问题（例如基于量子线路或量子数据的问题）未能产生可证明的分离？
• RQ5 数据访问在使经典学习者能够评估原本经典不可行的函数中扮演何种角色？

主要发现

• 定理3和定理4中的检查清单为证明经典与量子学习者之间的学习分离提供了通用且充分的条件。
• 定理3中的检查清单成功捕捉了[ LAT21 ]和[ SG04 ]中已知的两个学习分离，验证了其适用性。
• 经典学习者可以利用数据访问来计算原本不可行的函数，这是证明学习分离的主要障碍。
• 即使一个学习问题在直觉上具有前景（例如基于计算分离或量子生成数据），若检查清单中缺少关键条件，仍无法实现可证明的分离。
• PAC学习框架提供了理论洞见，但对现实世界机器学习的直接适用性有限，因为现实世界中固定大小的数据集和经验性能占据主导地位。
• 理论上的学习分离并不能保证实际优势，因为现实性能取决于数据集大小、泛化能力以及算法实现，而不仅仅是渐近复杂度。