[論文レビュー] Gradient Estimation with Constant Scaling for Hybrid Quantum Machine Learning

Thomas Hoffmann, Douglas Brown|arXiv (Cornell University)|Nov 25, 2022

Quantum Computing Algorithms and Architecture被引用数 4

ひとこと要約

本稿では、ハイブリッド量子機械学習向けに、回路パラメータ数に依存しない定数スケーリングを達成する、新しい勾配推定手法である Stochastic Backpropagation 用の同時摂動法（SPSB）を提案する。この手法は、前方伝搬ごとに回路評価をたった2回行うだけでよく、パラメータ数に関わらず定数スケーリングが達成される。最適な学習率を使用しても、SPSBはパラメータシフト則を90％の回路評価数の削減で、収束速度において上回る。特に大規模なモデルや大きなバッチサイズにおいて顕著である。

ABSTRACT

We present a novel method for determining gradients of parameterised quantum circuits (PQCs) in hybrid quantum-classical machine learning models by applying the multivariate version of the simultaneous perturbation stochastic approximation (SPSA) algorithm. The gradients of PQC layers can be calculated with an overhead of two evaluations per circuit per forward-pass independent of the number of circuit parameters, compared to the linear scaling of the parameter shift rule. These are then used in the backpropagation algorithm by applying the chain rule. We compare our method to the parameter shift rule for different circuit widths and batch sizes, and for a range of learning rates. We find that, as the number of qubits increases, our method converges significantly faster than the parameter shift rule and to a comparable accuracy, even when considering the optimal learning rate for each method.

研究の動機と目的

• パラメトリック量子回路（PQC）における勾配推定の高い計算コスト、特にパラメータ数の増加に伴う問題に対処すること。
• ハイブリッド量子古典機械学習モデルにおけるバックプロパゲーションのためのスケーラブルで汎用的な手法を開発すること。
• 最適化ステップあたりの回路評価数を最小限に抑えることで、NISQ時代の量子ハードウェアにおける効率的な学習を可能にすること。
• 提案手法の性能を、さまざまなモデルサイズ、バッチサイズ、学習率において標準的なパラメータシフト則と比較して評価すること。
• SPSBが顕著な高速化とスケーラビリティを実現しながらも、同等の精度を維持することを示すこと。

提案手法

• 本手法は、PQCにおける逆方向自動微分の勾配推定に、多変数形式の同時摂動確率的近似（SPSA）アルゴリズムを適用する。
• パラメータ数に依存せず、前方伝搬ごとにたった2回の回路評価でヤコビ行列を計算可能であり、これにより定数スケーリングが実現される。
• チェーンルールを介してバックプロパゲーションフレームワークに勾配を統合し、ハイブリッドモデルのエンドツーエンド最適化を可能にする。
• パrameter空間における統計的摂動を活用して勾配を確率的に近似することで、正確な解析的シフトに依存するのを軽減する。
• Adam や SGD といった標準的な最適化手法と互換性があり、量子専用モデルおよびハイブリッド量子古典モデルの両方へ適用可能である。
• バッチ処理をサポートしており、複数回のヤコビ行列評価の平均化によってノイズ低減が可能である。

実験結果

リサーチクエスチョン

• RQ1 回路の深さに線形に依存するが、パラメータ数に依存しない勾配推定手法を開発できるか？
• RQ2 さまざまなモデルサイズとバッチサイズにおいて、提案手法のSPSBはパラメータシフト則と比較して、収束速度と最終的な精度の点でどのように異なるか？
• RQ3 SPSBの最適な学習率は何か？ また、パラメータシフト則の最適な学習率と比較するとどうなるか？
• RQ4 将来のNISQデバイスに見られるような、ノイズレベルの変動や大規模なパラメータ数においても、SPSBは性能優位性を維持できるか？
• RQ5 Adam や量子自然勾配法といった高度な最適化手法と、SPSBを効果的に組み合わせられるか？

主な発見

• 最適な学習率を使用した場合、SPSBはパラメータシフト則よりも顕著に高速に収束し、最大90％の回路評価数削減で同等の精度を達成する。
• ランダムデータ分類タスクにおいて、学習率0.01でSPSBが、学習率0.5でパラメータシフト則を評価効率の面で上回る。
• 「クオンボリューショナル」MNISTタスクでは、両者とも最適な学習率を使用しても、SPSBがパラメータシフト則よりも速く収束する。
• 統計的ノイズに対して頑健であり、大規模バッチサイズにも適している。これは、損失関数のばらつき領域（バーニングプレート）からの脱出に寄与する可能性がある。
• SPSBは低い学習率（例：0.01〜0.05）で最も優れた性能を発揮するが、高い学習率（例：0.5）では不安定になり、収束しなくなる。
• 既存の量子機械学習ライブラリと互換性があり、微分可能な量子回路をサポートするフレームワークへの容易な統合が可能である。