[論文レビュー] Learning to learn with quantum neural networks via classical neural networks

Guillaume Verdon, Michael Broughton+6 more|arXiv (Cornell University)|Jul 11, 2019

Quantum Computing Algorithms and Architecture被引用数 98

ひとこと要約

この論文は古典的再帰型ニューラルネットワークをメタ最適化子として訓練し、量子変分アルゴリズムの初期化を改善し、QAOAとVQEタスクにおける量子-古典最適化の反復を削減し、サイズを跨いだ一般化を実証する。

ABSTRACT

Quantum Neural Networks (QNNs) are a promising variational learning paradigm with applications to near-term quantum processors, however they still face some significant challenges. One such challenge is finding good parameter initialization heuristics that ensure rapid and consistent convergence to local minima of the parameterized quantum circuit landscape. In this work, we train classical neural networks to assist in the quantum learning process, also know as meta-learning, to rapidly find approximate optima in the parameter landscape for several classes of quantum variational algorithms. Specifically, we train classical recurrent neural networks to find approximately optimal parameters within a small number of queries of the cost function for the Quantum Approximate Optimization Algorithm (QAOA) for MaxCut, QAOA for Sherrington-Kirkpatrick Ising model, and for a Variational Quantum Eigensolver for the Hubbard model. By initializing other optimizers at parameter values suggested by the classical neural network, we demonstrate a significant improvement in the total number of optimization iterations required to reach a given accuracy. We further demonstrate that the optimization strategies learned by the neural network generalize well across a range of problem instance sizes. This opens up the possibility of training on small, classically simulatable problem instances, in order to initialize larger, classically intractably simulatable problem instances on quantum devices, thereby significantly reducing the number of required quantum-classical optimization iterations.

研究の動機と目的

• 近似デバイスでの量子ニューラルネットワーク(QNN)のパラメータ初期化の不良に対処する。
• 古典的RNNがパラメータ更新ヒューリスを学習するメタ学習アプローチを開発する。
• RNNベースの初期化がQAOAとVQEの収束を加速することを、代表的な問題クラスで示す。
• 学習した最適化戦略をトレーニング中に見たより大きい問題インスタンスへ一般化することを示す。

提案手法

• QNNが古典的オプティマイザによって最適化されるハイブリッド量子-古典的変分ループをモデル化する。
• LSTMを含む再帰型ニューラルネットワークを、QNNパラメータ更新を出力するメタオプティマとして使用する。
• ターゲット問題クラス（QAOA MaxCut、QAOA Ising SK、Hubbard VQE）に対して、小規模で古典的にシミュレート可能なQNNインスタンスの分布でRNNを訓練する。
• 観測されたQNNコストの改善をタイムステップごとに基づくメタラーニング損失L(phi)を定義してRNNを訓練する。
• 初期化後のパラメータ調整のため、局所オプティマザ（例: Nelder-Mead）と組み合わせたRNN初期化子を統合する。
• 勾配降下風景のハイパーパラメータとしてQNNパラメータが機能するQAOAスタイルの量子交互作用オペレータアンサッツ（QAOA style）を利用する。

実験結果

リサーチクエスチョン

• RQ1 古典的RNNメタオプティマーはQAOAおよびVQE設定でQNNに対して効果的なパラメータ更新ヒューリスを学習できるか？
• RQ2 RNN学習初期化は標準初期化戦略と比較して所望の精度に到達するための最適化反復回数を減らすか？
• RQ3 小さく古典的にシミュレート可能なインスタンスで学習した戦略はより大きな問題サイズに一般化するか？
• RQ4 RNNベースの初期化子は最大カットQAOA、Ising SK QAOA、Hubbard VQEなど、量子変分アルゴリズム内の異なる問題クラスに対してロバストか？

主な発見

• メタオプtiマイザとして訓練された再帰型ニューラルネットワークは、所定の精度に到達するまでの総最適化反復回数を顕著に改善する。
• 学習した初期化は訓練セットを超える問題インスタンスサイズの範囲で良く一般化する。
• Nelder-Meadなどの局所オプティマザを初期化する際、RNN初期化子は他の標準的初期化法を上回る。
• 訓練は小さく古典的にシミュレート可能なQNNインスタンスで行い、より大きく難しい古典的にはシミュレート不可能なインスタンスを量子デバイスで適用できる。
• 本研究はメタ学習を量子機械学習アルゴリズムの性能向上に初めて成功裏に適用したことを示す。