[論文レビュー] Theoretical Guarantees for Permutation-Equivariant Quantum Neural Networks

Louis Schatzki, Martín Larocca+3 more|arXiv (Cornell University)|Oct 18, 2022

Machine Learning in Materials Science参考文献 151被引用数 18

ひとこと要約

本稿では、データの対称群 Sₙ の対称性を符号化する置換同変量子ニューラルネットワーク（Sₙ-EQNN）を提案する。これにより、キュービットの置換に対して不変性が保証される。理論的には、Sₙ-EQNN はバーレンプレートを回避し、多項式的深さの回路で過パラメータ化を達成し、少数の訓練サンプルからも良好な一般化性能を示す。数値シミュレーションにより、グラフ状態分類タスクにおいて強力な性能が確認された。

ABSTRACT

Despite the great promise of quantum machine learning models, there are several challenges one must overcome before unlocking their full potential. For instance, models based on quantum neural networks (QNNs) can suffer from excessive local minima and barren plateaus in their training landscapes. Recently, the nascent field of geometric quantum machine learning (GQML) has emerged as a potential solution to some of those issues. The key insight of GQML is that one should design architectures, such as equivariant QNNs, encoding the symmetries of the problem at hand. Here, we focus on problems with permutation symmetry (i.e., the group of symmetry $S_n$), and show how to build $S_n$-equivariant QNNs. We provide an analytical study of their performance, proving that they do not suffer from barren plateaus, quickly reach overparametrization, and generalize well from small amounts of data. To verify our results, we perform numerical simulations for a graph state classification task. Our work provides the first theoretical guarantees for equivariant QNNs, thus indicating the extreme power and potential of GQML.

研究の動機と目的

• 量子ニューラルネットワーク（QNN）におけるトレーニングの難しさ、例えばバーレンプレートや局所最適解の問題を、アーキテクチャ設計に対称性を組み込むことで解決すること。
• 入力データの置換対称性を尊重する Sₙ 同変 QNN を構築するための体系的フレームワークの構築。
• 現実的なデータ環境下で、Sₙ-EQNN の一般化性能および最適化性能に関する理論的保証の提供。
• グラフ状態分類タスクにおける数値シミュレーションを通じて、理論的主張の検証。
• データ符号化および回路構造に応じて、Sₙ-EQNN がトレーニング可能または不可能になる条件の同定。

提案手法

• 対称群 Sₙ の等型分解を用いて Sₙ 同変 QNN を構築し、ユニタリ層が置換操作に対して一貫して変換されるように保証する。
• 表現論を活用してヒルベルト空間を Sₙ の既約表現（irreps）に分解し、QNN がこれらの不変部分空間内でのみ作用するように制限する。
• パラメータ空間の複雑さを制限するために、ユニタリ ɛ-カバー網の概念を適用し、既約表現の総次元（Teₙ₊₁）をモデル容量の指標として用いる。
• カバー数に基づくチェーン推論を用いて、一般化誤差の境界を導出。この境界はカバー数の対数に比例し、Sₙ-EQNN に特化して適用される。
• 3-正則、n/2-正則、Erdős–Rényi のグラフ状態、固定ハミング重み状態、ハール一様乱数状態を用いた符号化を含む、数値実験を設計し、トレーニング可能性と性能をテスト。
• 異なるデータ符号化および回路深さにおける一般化および最適化挙動を比較し、成功・失敗の領域を同定。

実験結果

リサーチクエスチョン

• RQ1 Sₙ 同変 QNN は、一般的な QNN に見られるバーレンプレート問題を回避できるか？
• RQ2 Sₙ-EQNN が過パラメータ化を達成するための必要最小回路深さは何か？また、系サイズに伴い多項式的に増加するか？
• RQ3 Sₙ-EQNN が良好な一般化性能を達成するためには、どの程度の訓練データ数が必要か？
• RQ4 どのようなデータ符号化（例：対称的、ハール一様、グラフ状態）が、Sₙ-EQNN のトレーニング可能または不可能性を引き起こすか？
• RQ5 一般化およびトレーニング可能性に関する理論的保証が、実際の数値シミュレーションにおいてどの程度有効に保たれるか？

主な発見

• Sₙ-EQNN は、システムサイズに伴う勾配分散の指数的減少がないため、バーレンプレートが存在しないことが証明された。
• Sₙ-EQNN は、既約表現の総次元 Teₙ₊₁ が n に対して多項式的に増加するため、多項式的深さの回路で過パラメータ化を達成する。
• 一般化誤差は、パラメータ空間の ɛ-カバー数の対数に依存する項で抑えられ、そのスケーリングは (6/ε)²ᵀₑₙ₊₁ に比例する。
• グラフ状態分類タスクにおける数値シミュレーションでは、Sₙ-EQNN は少数の訓練サンプルでも良好な一般化性能を示し、一部のケースでは理論的境界を上回ることも確認された。
• 理論的解析により、対称状態および固定ハミング重み符号化状態はトレーニング可能であることが判明したが、特定のランダムまたは高エンタングル状態は非トレーニング可能になる可能性がある。
• 等型分解を用いることで、Sₙ-EQNN のカバー数境界が導出され、[61] の一般結果からは得られない、特化した一般化誤差境界が得られた。