[論文レビュー] Beyond Barren Plateaus: Quantum Variational Algorithms Are Swamped With Traps

Eric R. Anschuetz, Bobak T. Kiani|arXiv (Cornell University)|May 11, 2022

Quantum Computing Algorithms and Architecture被引用数 15

ひとこと要約

この論文は、バーチャル量子アルゴリズム（VQAs）がバーレン・プレートウの影響だけでなく、グローバル最適解から大きく離れた局所的最小値の過剰な集中によっても根本的に最適化不能であることを示している。統計的クエリ学習理論と損失関数のランドスケープ解析を用いて、著者らは、ノイズあり最適化において、部分指数的クエリ複雑度は不十分であることを証明し、数値結果により、ほとんどの局所的最小値がエネルギー的にグローバル最小値から指数的に遠く離れていることが確認された。特に、パラメータ数と局所ヒルベルト空間次元の比が小さい場合に顕著である。

ABSTRACT

One of the most important properties of classical neural networks is how surprisingly trainable they are, though their training algorithms typically rely on optimizing complicated, nonconvex loss functions. Previous results have shown that unlike the case in classical neural networks, variational quantum models are often not trainable. The most studied phenomenon is the onset of barren plateaus in the training landscape of these quantum models, typically when the models are very deep. This focus on barren plateaus has made the phenomenon almost synonymous with the trainability of quantum models. Here, we show that barren plateaus are only a part of the story. We prove that a wide class of variational quantum models -- which are shallow, and exhibit no barren plateaus -- have only a superpolynomially small fraction of local minima within any constant energy from the global minimum, rendering these models untrainable if no good initial guess of the optimal parameters is known. We also study the trainability of variational quantum algorithms from a statistical query framework, and show that noisy optimization of a wide variety of quantum models is impossible with a sub-exponential number of queries. Finally, we numerically confirm our results on a variety of problem instances. Though we exclude a wide variety of quantum algorithms here, we give reason for optimism for certain classes of variational algorithms and discuss potential ways forward in showing the practical utility of such algorithms.

研究の動機と目的

• バーレン・プレートウが存在しない状況でも、特に局所的で浅い回路と局所的コスト関数を有するVQAsが最適化可能かどうかを調査すること。
• バーレン・プレートウがVQAの最適化不能性の主因であるという仮定に疑問を呈し、より広範な最適化不能性のメカニズムを同定すること。
• 統計的クエリ学習理論を用いて、ノイズあり量子モデルの最適化における根本的な限界を確立すること。
• VQAの損失関数ランドスケープの構造を分析し、バーレン・プレートウが存在しない場合でも、局所的最小値がグローバル最小値から著しく離れていることを示すこと。
• 典型的なインスタンスにおいて、グローバル最小値に近いエネルギーの局所的最小値の割合が、多項式的ではなく超多項式的に小さいことを数値的証明すること。

提案手法

• ノイズあり量子モデルの最適化におけるクエリ複雑度を制限する統計的クエリ（SQ）学習モデルを用いた理論的分析により、ノイズ下で学習するには部分指数的クエリ数では不十分であることを示した。
• VQAの損失関数ランドスケープをモデル化するためにWishart超トロイダル確率場（WHRFs）を適用し、過パラメータ化比 γ = l/(2m) を、最適化可能性を支配する主要な順序パラメータとした。
• WHRFにおける局所的最小値の漸近的分布の導出：Crt₀(E) ∼ e^(-mE) E^(m−l/2) (1−2E)^l であり、γ ≪ 1 のとき、良好な最小値の割合が超多項式的に小さくなることを予測する。
• VQA損失関数における関数値、勾配、ヘッセ行列の同時分布が、十分な速度でWHRFの分布に収束することの証明により、相転移の結果を移転可能とした。
• QCNNや他の問題インスタンスにおける数値的検証により、バーレン・プレートウが存在しない浅い回路においても、損失関数ランドスケープが劣悪な局所的最小値に支配されていることを確認した。
• 量子統計的クエリモデル（qCSQ および qUSQ）を用いたノイズあり最適化のシミュレーションにより、NISQデバイスで一般的に見られるノイズが、部分指数的クエリ数では学習を不可能にすることが示された。

実験結果

リサーチクエスチョン

• RQ1 バーレン・プレートウが存在しない場合、特に局所的で浅い回路において、VQAsは最適化不能であるか。
• RQ2 VQA損失関数ランドスケープにおいて、グローバル最適解から遠く離れた局所的最小値の集中を決定づける要因は何か。
• RQ3 統計的クエリ学習理論を用いて、ノイズあり量子モデルの最適化可能性に根本的な限界を設定できるか。
• RQ4 局所的パラメータ数と局所ヒルベルト空間次元の比が、浅いVQAsにおける最適化可能性の相転移をどのように支配するか。
• RQ5 数値的シミュレーションにより、典型的なVQAインスタンスにおいて、局所的最小値がグローバル最小値から指数的に遠く離れていることがどの程度確認できるか。

主な発見

• バーレン・プレートウが存在しない浅いVQAsにおいて、グローバル最小値に近いエネルギーの局所的最小値の割合は、問題サイズに対して超多項式的に小さく、良好な初期化がなければ最適化不能である。
• VQA損失関数ランドスケープにおける最適化可能性の相転移は、グローバルなパラメータ数とヒルベルト空間次元の比ではなく、測定された観測量の逆光円錐内における局所的パラメータ数と局所ヒルベルト空間次元の比によって支配される。
• 過パラメータ化比 γ = l/(2m) が γ = o(1/log(n)) を満たす場合、良好な局所的最小値の割合は超多項式的に小さくなり、根本的な最適化不能性を示唆する。
• 統計的クエリ学習理論により、広範なクラスの量子モデルのノイズあり最適化は、部分指数的クエリ数では不可能であることが証明された。これは、系サイズに指数的に小さくなるノイズでさえも同様に成り立つ。
• QCNNや他のインスタンスにおける数値的結果により、損失関数ランドスケープが劣悪な局所的最小値に支配されており、グローバル最小値の周囲には希少な好ましい点しか存在しないことが確認された。
• 本研究では、高次元の対称性や良好な初期化が、特に一般の非対称インスタンスでは、根本的なトラップ問題を克服するには不十分であることが同定された。