[论文解读] Learning to learn with quantum neural networks via classical neural networks

Guillaume Verdon, Michael Broughton+6 more|arXiv (Cornell University)|Jul 11, 2019

Quantum Computing Algorithms and Architecture参考文献 2被引用 78

一句话总结

本文翻译为中文：论文训练经典循环神经网络，以学习量子神经网络的参数更新启发式方法，使用元学习来初始化 QAOA 和 VQE 优化器，并展示对更大问题规模的泛化能力。

ABSTRACT

Quantum Neural Networks (QNNs) are a promising variational learning paradigm with applications to near-term quantum processors, however they still face some significant challenges. One such challenge is finding good parameter initialization heuristics that ensure rapid and consistent convergence to local minima of the parameterized quantum circuit landscape. In this work, we train classical neural networks to assist in the quantum learning process, also know as meta-learning, to rapidly find approximate optima in the parameter landscape for several classes of quantum variational algorithms. Specifically, we train classical recurrent neural networks to find approximately optimal parameters within a small number of queries of the cost function for the Quantum Approximate Optimization Algorithm (QAOA) for MaxCut, QAOA for Sherrington-Kirkpatrick Ising model, and for a Variational Quantum Eigensolver for the Hubbard model. By initializing other optimizers at parameter values suggested by the classical neural network, we demonstrate a significant improvement in the total number of optimization iterations required to reach a given accuracy. We further demonstrate that the optimization strategies learned by the neural network generalize well across a range of problem instance sizes. This opens up the possibility of training on small, classically simulatable problem instances, in order to initialize larger, classically intractably simulatable problem instances on quantum devices, thereby significantly reducing the number of required quantum-classical optimization iterations.

研究动机与目标

• 在 NISQ 设备上推动量子-经典变分算法的参数初始化改进。
• 开发一个经典神经网络（RNN），学习对量子神经网络有效的参数更新启发式方法。
• 证明学到的优化策略能从小型、可在经典模拟下运行的实例推广到更大、更困难的实例。
• 展示基于 RNN 的初始化在与局部优化器（如 Nelder-Mead）结合时，能减少总优化迭代次数。

提出的方法

• 将混合量子-经典循环建模为时间图，并训练基于 LSTM 的优化器提出 QNN 的参数更新。
• 基于随时间观察到的改进（方程式 2）定义元学习损失 L(phi) 以指导训练。
• 在问题类别上训练专门的 RNN 优化器：MaxCut 的 QAOA、Sherrington-Kirkpatrick 铁磁模型的 QAOA，以及一个 Hubbard VQE ansatz。
• 将训练好的 RNN 作为局部搜索优化器（如 Nelder-Mead）的少样本全局初始化器，以达到目标精度。
• 实现对小型、可在经典模拟下运行的 QNN 实例的训练，并在更大实例上测试泛化。
• 讨论通过展开的量子-经典图进行反向传播来训练 RNN 优化器（时序反向传播）。

实验结果

研究问题

• RQ1 经典 RNN 优化器是否能学习到对量子神经网络（QNN）有效的参数更新启发式方法？
• RQ2 在相同问题类内，针对小型 QNN 实例训练的专门 RNN 优化器是否能推广到更大的问题规模？
• RQ3 元学习初始化在与局部优化器结合时是否能减少总优化迭代次数？
• RQ4 是否可在可经典模拟的 QNN 上训练 RNN 优化器，并将其应用于设备上更大、潜在难以处理的量子实例？
• RQ5 元学习策略如何在不同的 QAOA 问题类别和 VQE ansatz 之间迁移？

主要发现

• 在小型 QNN 实例上学习的 RNN 优化器能在同一问题类内推广到更大规模。
• 使用学到的 RNN 优化器进行初始化，在与局部优化器结合时能显著减少达到给定精度所需的总迭代次数。
• 为 MaxCut QAOA、Ising SK QAOA、以及 Hubbard VQE 训练的专门 RNN，在未见过的更大实例上各自提升了其类别的性能。
• 在可经典模拟的 QNN 上训练使得可以无需再训练就转移到更大、更难的 QNN。
• 该方法首次将元学习应用于提升量子机器学习算法。
• 将 RNN 优化器用作少样本全局初始化器，而不是完全替代局部优化，带来实际收益。