[论文解读] Stochastic noise can be helpful for variational quantum algorithms

Junyu Liu, Frederik Wilde+4 more|arXiv (Cornell University)|Oct 13, 2022

Stochastic Gradient Optimization Techniques被引用 13

一句话总结

该论文表明，随机噪声——特别是来自有限量子测量的散粒噪声——可以在非凸优化景观中帮助变分量子算法避开严格的鞍点。通过将经典的鞍点避开理论适配到量子设置，作者证明了收敛性保证，并推导出解析的尺度定律，表明最优噪声水平（例如来自有限测量次数的噪声）可加速收敛，为近期量子设备提供一种实用策略。

ABSTRACT

Saddle points constitute a crucial challenge for first-order gradient descent algorithms. In notions of classical machine learning, they are avoided for example by means of stochastic gradient descent methods. In this work, we provide evidence that the saddle points problem can be naturally avoided in variational quantum algorithms by exploiting the presence of stochasticity. We prove convergence guarantees and present practical examples in numerical simulations and on quantum hardware. We argue that the natural stochasticity of variational algorithms can be beneficial for avoiding strict saddle points, i.e., those saddle points with at least one negative Hessian eigenvalue. This insight that some levels of shot noise could help is expected to add a new perspective to notions of near-term variational quantum algorithms.

研究动机与目标

• 为解决变分量子算法（VQAs）在非凸优化景观中因鞍点导致收敛受阻的挑战。
• 探究量子测量中的自然随机性——散粒噪声——是否可作为有益机制以逃离鞍点。
• 在有限次测量噪声下的随机梯度下降中，为VQAs提供严格的收敛性保证。
• 推导出将学习率、损失函数变化与鞍点避开临界噪声水平相联系的解析尺度定律。
• 为近期量子硬件实验中选择最优测量次数提供实用指导。

提出的方法

• 将经典鞍点避开理论（JordanSaddlePoints）适配到量子设置，表明梯度估计中的噪声可防止收敛至严格鞍点。
• 将随机梯度更新建模为带漂移的随机游走，推导出噪声克服向鞍点方向的确定性衰减的临界噪声水平。
• 在鞍点附近对损失函数使用线性近似，推导出噪声引起的波动与确定性梯度衰减相平衡的临界噪声阈值。
• 应用量子神经正切核（QNTK）框架，在二次损失下验证线性模型结果，确认在非凸设置中的一致性。
• 推导尺度定律：$\epsilon_{\text{cri}} \sim \eta \sqrt{\mathcal{L}(0)}$ 和 $\epsilon_{\text{cri}} \sim \eta \Delta_{\mathcal{L}}$，将噪声、学习率与损失变化相联系。
• 提出最优测量次数的实用公式：$N_{\text{cri}} \propto \Delta_{\mathcal{L}}^{-2}$，并在4量子比特系统上进行实验验证。

实验结果

研究问题

• RQ1 来自有限量子测量的散粒噪声是否能帮助变分量子算法在非凸优化景观中逃离严格鞍点？
• RQ2 在随机波动克服向鞍点方向的确定性梯度下降的临界噪声水平是多少？
• RQ3 学习率和损失函数变化如何影响鞍点避开的最优测量噪声水平？
• RQ4 从线性近似推导出的理论尺度定律是否可在真实量子电路模拟和硬件中得到验证？
• RQ5 在近期VQAs中，为平衡噪声益处与估计精度，最优测量次数是多少？

主要发现

• 鞍点避开的临界噪声水平按 $\epsilon_{\text{cri}} \sim \eta \sqrt{\mathcal{L}(0)}$ 缩放，表明初始损失越高或学习率越大，需更多噪声才能逃离。
• 数值模拟中观察到线性缩放 $\epsilon_{\text{cri}} \sim \eta \Delta_{\mathcal{L}}$，拟合指数 $\Delta_{\text{cri}} \approx 0.8722$，接近1，支持理论模型。
• 预测最优测量次数按 $N_{\text{cri}} \propto \Delta_{\mathcal{L}}^{-2}$ 缩放，4量子比特示例的推导值为 $N_{\text{cri}} \approx 131.8$。
• 使用Qiskit进行的实验验证得到常数 $c_\eta \approx 1.19733$，证实噪声模型在真实硬件类似环境中的准确性。
• 理论在线性模型与基于QNTK的推导中均一致，强化了其在非凸VQA景观中的稳健性。
• 结果表明，来自有限测量的小而受控的噪声并非缺陷，而是一种优势，可加速近期量子算法的收敛。