[论文解读] An Empirical Review of Optimization Techniques for Quantum Variational Circuits

Owen Lockwood|arXiv (Cornell University)|Feb 3, 2022

Quantum Computing Algorithms and Architecture被引用 7

一句话总结

本文通过在经典数据和量子数据任务中使用无噪声和有噪声的模拟，对量子变分电路（QVCs）的46种优化技术进行了实证评估。研究发现，基于参数偏移的梯度优化器优于非参数偏移方法，其中Adam（学习率0.1）在无需超参数调优的情况下表现最优；而SPSA和Powell方法在非参数偏移优化器中表现最佳；值得注意的是，Nelder-Mead在有噪声环境下表现出人意料的优异性能，挑战了传统认知。

ABSTRACT

Quantum Variational Circuits (QVCs) are often claimed as one of the most potent uses of both near term and long term quantum hardware. The standard approaches to optimizing these circuits rely on a classical system to compute the new parameters at every optimization step. However, this process can be extremely challenging, due to the nature of navigating the exponentially scaling complex Hilbert space, barren plateaus, and the noise present in all foreseeable quantum hardware. Although a variety of optimization algorithms are employed in practice, there is often a lack of theoretical or empirical motivations for this choice. To this end we empirically evaluate the potential of many common gradient and gradient free optimizers on a variety of optimization tasks. These tasks include both classical and quantum data based optimization routines. Our evaluations were conducted in both noise free and noisy simulations. The large number of problems and optimizers evaluated yields strong empirical guidance for choosing optimizers for QVCs that is currently lacking.

研究动机与目标

• 为解决在选择量子变分电路（QVCs）优化算法时缺乏实证和理论指导的问题。
• 在涵盖经典数据和量子数据的多样化QVC任务中，评估大量基于梯度和非基于梯度的优化器的性能。
• 在不同噪声条件和问题规模下，提供基于实证的优化器选择建议。
• 通过在真实模拟环境中测试，挑战量子机器学习中关于学习率和优化器选择的常见假设。
• 识别出有前景的优化策略，以指导未来的研究和真实硬件部署。

提出的方法

• 本研究在2至25量子比特的QVCs（最多200个参数）上评估了46种不同的优化器配置，使用TensorFlow-Quantum进行模拟。
• 优化任务包括变分量子本征求解器（VQE）、量子电路学习以及激发态分类，使用经典数据和量子数据。
• 在无噪声、仅采样噪声和去极化噪声条件下进行模拟，以评估鲁棒性。
• 使用参数偏移规则计算基于梯度优化器的解析梯度，实现精确且高效的参数更新。
• 对黑箱优化器（如SPSA、Nelder-Mead和Powell方法）进行评估，不依赖梯度计算，仅依赖函数评估。
• 性能仅通过1000次优化步骤后的最终代价函数值衡量，不考虑采样次数或收敛速度。

实验结果

研究问题

• RQ1 在不同问题类型和噪声水平下，哪种优化算法能为量子变分电路带来最佳最终性能？
• RQ2 基于参数偏移的梯度优化器与非参数偏移梯度优化器及黑箱优化器相比，在收敛性和鲁棒性方面表现如何？
• RQ3 在量子机器学习中，使用较高学习率（如0.1）是否能提升优化性能，与经典深度学习实践相反？
• RQ4 Nelder-Mead作为一种无导数方法，是否能在噪声环境或 barren plateau（空旷高原）区域超越基于梯度的优化器？
• RQ5 噪声（特别是去极化噪声和采样噪声）如何影响不同优化器在QVCs中的相对性能？

主要发现

• 在所有测试的问题和噪声水平下，基于参数偏移的梯度优化器始终优于非参数偏移方法。
• 在非参数偏移优化器中，SPSA和Powell方法表现最佳，其中SPSA所需函数评估次数更少，且表现出强鲁棒性。
• 对于无需超参数调优的参数偏移优化器，Adam（学习率0.1）表现最优，这与典型经典深度学习实践相悖。
• 当可进行超参数调优时，Adam、AMSGrad和NAdam（学习率0.01或0.1）表现更优，其中NAdam通常排名靠前。
• 尽管是无导数方法且通常不被青睐于高维优化，Nelder-Mead在多种设置下实现了具有竞争力或顶尖的性能，尤其在有噪声条件下表现突出。
• 模拟噪声（最高去极化噪声率0.05）对优化器性能的影响微乎其微，表明在这些模拟中，噪声可能并非性能差异的主要驱动因素。