[论文解读] Learning to learn with quantum neural networks via classical neural networks

Guillaume Verdon, Michael Broughton+6 more|arXiv (Cornell University)|Jul 11, 2019

Quantum Computing Algorithms and Architecture被引用 98

一句话总结

本文训练经典循环神经网络，作为量子变分算法的元优化器，改进初始化并减少 QAOA 与 VQE 任务中的量子-经典优化迭代，并展示跨尺度的一般化。

ABSTRACT

Quantum Neural Networks (QNNs) are a promising variational learning paradigm with applications to near-term quantum processors, however they still face some significant challenges. One such challenge is finding good parameter initialization heuristics that ensure rapid and consistent convergence to local minima of the parameterized quantum circuit landscape. In this work, we train classical neural networks to assist in the quantum learning process, also know as meta-learning, to rapidly find approximate optima in the parameter landscape for several classes of quantum variational algorithms. Specifically, we train classical recurrent neural networks to find approximately optimal parameters within a small number of queries of the cost function for the Quantum Approximate Optimization Algorithm (QAOA) for MaxCut, QAOA for Sherrington-Kirkpatrick Ising model, and for a Variational Quantum Eigensolver for the Hubbard model. By initializing other optimizers at parameter values suggested by the classical neural network, we demonstrate a significant improvement in the total number of optimization iterations required to reach a given accuracy. We further demonstrate that the optimization strategies learned by the neural network generalize well across a range of problem instance sizes. This opens up the possibility of training on small, classically simulatable problem instances, in order to initialize larger, classically intractably simulatable problem instances on quantum devices, thereby significantly reducing the number of required quantum-classical optimization iterations.

研究动机与目标

• 解决近端设备中量子神经网络（QNNs）的参数初始化问题。
• 开发一种元学习方法，使经典 RNN 学习参数更新启发式策略。
• 证明基于 RNN 的初始化在代表性问题类别上加速 QAOA 与 VQE 的收敛。
• 展示学习到的优化策略对比训练时看到的更大规模问题实例的泛化性。

提出的方法

• 建模一个混合量子-经典变分回路，其中通过经典优化器优化 QNN。
• 使用循环神经网络（RNN），具体为 LSTM，作为输出 QNN 参数更新的元优化器。
• 在可由经典仿真的小型 QNN 实例分布上训练 RNN，以针对特定问题类别（QAOA MaxCut、QAOA Ising SK、Hubbard VQE）。
• 基于在各时间步观察到的 QNN 代价改善来定义元学习损失 L(phi)，以训练 RNN。
• 将 RNN 初始化器与局部优化器（如 Nelder-Mead）结合，在初始化后细化参数。
• 借鉴量子交替算子 ansatz（QAOA 风格），其中 QNN 参数充当梯度下降式景观的超参数。

实验结果

研究问题

• RQ1 在 QAOA 和 VQE 设置中，经典 RNN 元优化器是否能够学习到对 QNN 的有效参数更新启发式？
• RQ2 与标准初始化策略相比，RNN 学习的初始化是否降低达到期望精度所需的优化迭代次数？
• RQ3 在小型、可经典仿真的实例上学习的策略是否能泛化到更大规模的问题？
• RQ4 基于 RNN 的初始化器在量子变分算法的不同问题类别（MaxCut QAOA、Ising SK QAOA、Hubbard VQE）中是否鲁棒？

主要发现

• 训练为元优化器的循环神经网络在达到给定精度所需的总优化迭代次数上显著改善。
• 学习到的初始化在超出训练集的一系列问题实例大小上具有良好泛化性。
• 在将局部优化器（如 Nelder-Mead）初始化时，RNN 初始化器优于其他标准参数初始化方法。
• 训练可以在小型、可经典仿真的 QNN 实例上进行，然后应用于更大、更难以仿真、在量子设备上执行的实例。
• 本工作展示了元学习在提升量子机器学习算法方面的首次成功应用。