[论文解读] On the learnability of quantum neural networks

Yuxuan Du, Min-Hsiu Hsieh+3 more|arXiv (Cornell University)|Jul 24, 2020

Quantum Computing Algorithms and Architecture被引用 12

一句话总结

本文在经验风险最小化框架下建立了变分量子神经网络（QNNs）可学习性的理论基础，表明噪声、测量次数和电路深度会降低性能界限。研究证明QNNs具有差分隐私性，并在门噪声下仍保持可学习性，表明即使存在错误，NISQ设备上仍可能保持量子优势。

ABSTRACT

We consider the learnability of the quantum neural network (QNN) built on the variational hybrid quantum-classical scheme, which remains largely unknown due to the non-convex optimization landscape, the measurement error, and the unavoidable gate errors introduced by noisy intermediate-scale quantum (NISQ) machines. Our contributions in this paper are multi-fold. First, we derive the utility bounds of QNN towards empirical risk minimization, and show that large gate noise, few quantum measurements, and deep circuit depth will lead to the poor utility bounds. This result also applies to the variational quantum circuits with gradient-based classical optimization, and can be of independent interest. We then prove that QNN can be treated as a differentially private (DP) model. Thirdly, we show that if a concept class can be efficiently learned by QNN, then it can also be effectively learned by QNN even with gate noise. This result implies the same learnability of QNN whether it is implemented on noiseless or noisy quantum machines. We last exhibit that the quantum statistical query (QSQ) model can be effectively simulated by noisy QNN. Since the QSQ model can tackle certain tasks with runtime speedup, our result suggests that the modified QNN implemented on NISQ devices will retain the quantum advantage. Numerical simulations support the theoretical results.

研究动机与目标

• 为在存在噪声和测量误差的情况下QNN可学习性的基本开放问题提供解答。
• 分析门噪声、有限测量和电路深度对QNN性能与泛化能力的影响。
• 在噪声环境下，为基于经验风险最小化（ERM）框架的QNN建立理论保证。
• 探究在噪声中间规模量子（NISQ）设备上，学习过程中的量子优势是否能够持续存在。
• 将QNN的可学习性与量子统计查询（QSQ）模型联系起来，提示可能存在运行时加速。

提出的方法

• 通过分析带噪声梯度和有限测量的梯度下降收敛性，推导出在ERM下QNN的效用界限。
• 利用Polyak-Łojasiewicz（PL）条件和噪声感知优化分析，界定泛化误差。
• 应用差分隐私（DP）的组合性质，证明经噪声信道扰动的QNN是DP模型。
• 引入结合去极化和幅度阻尼效应的噪声模型，以分析QNN的鲁棒性。
• 使用Chernoff-Hoeffding不等式，量化在噪声条件下准确估计期望值所需的测量次数。
• 证明带噪声的QNN可有效模拟量子统计查询（QSQ）模型，保留潜在的量子加速优势。

实验结果

研究问题

• RQ1 门噪声、有限测量和电路深度如何影响QNN的效用与泛化能力？
• RQ2 QNN在NISQ设备典型的噪声量子操作下是否仍能保持可学习性？
• RQ3 带噪声的QNN在可学习性上是否等价于无噪声QNN？
• RQ4 带噪声的QNN是否可被视为差分隐私？
• RQ5 带噪声的QNN能否模拟量子统计查询（QSQ）模型，从而保留潜在的量子优势？

主要发现

• 在ERM下，大范围门噪声、少量测量和深电路会导致QNN的效用界限变差，其量化形式为 $ R_1 = \tilde{O}\left(\frac{1}{(1-\tilde{p})^2}, d, \frac{1}{BK}\right) $。
• 效用界限 $ R_2 $ 的尺度为 $ O\left(\frac{1}{(1-\tilde{p})^2}, \frac{1}{SBK^2}, d\right) $，表明其对噪声和测量次数的依赖性。
• 经由噪声通道 $ \mathcal{E}_{p_1} $ 扰动的QNN由于测量机制的DP性质，具备差分隐私性。
• 若某一概念类可被无噪声QNN学习，则其在门噪声下依然可学习，表明对噪声具有鲁棒性。
• 带噪声的QNN可有效模拟量子统计查询（QSQ）模型，提示其可能保留量子加速潜力。
• 为实现 $ \left|\frac{1}{K}\sum V_k - \nu\right| \leq \tau $，所需测量次数 $ K $ 为 $ K = \frac{\ln(2/b)}{2(\tau - \tilde{p}\nu - p_2' - p_3^{L_Q}/D)^2} $，表明精度、噪声与置信度之间的权衡。