[論文レビュー] QOC: Quantum On-Chip Training with Parameter Shift and Gradient Pruning

Hanrui Wang, Zirui Li+4 more|arXiv (Cornell University)|Feb 26, 2022

Quantum Computing Algorithms and Architecture被引用数 5

ひとこと要約

QOCは、実際のNISQデバイス上でパラメータシフト勾配を用いたスケーラブルでオンチップでのトレーニングを実験的に初めて実現した。確率的勾配プルーニングを導入することで、ノイズが多くて大きさが小さい勾配をフィルタリングし、2クラス分類タスクで90%以上、4クラス分類タスクで60%以上の精度を達成。ノイズのないシミュレーション性能と同等の性能を発揮するとともに、耐障害性を向上させ、回路実行回数を最大2倍まで削減した。

ABSTRACT

Parameterized Quantum Circuits (PQC) are drawing increasing research interest thanks to its potential to achieve quantum advantages on near-term Noisy Intermediate Scale Quantum (NISQ) hardware. In order to achieve scalable PQC learning, the training process needs to be offloaded to real quantum machines instead of using exponential-cost classical simulators. One common approach to obtain PQC gradients is parameter shift whose cost scales linearly with the number of qubits. We present QOC, the first experimental demonstration of practical on-chip PQC training with parameter shift. Nevertheless, we find that due to the significant quantum errors (noises) on real machines, gradients obtained from naive parameter shift have low fidelity and thus degrading the training accuracy. To this end, we further propose probabilistic gradient pruning to firstly identify gradients with potentially large errors and then remove them. Specifically, small gradients have larger relative errors than large ones, thus having a higher probability to be pruned. We perform extensive experiments with the Quantum Neural Network (QNN) benchmarks on 5 classification tasks using 5 real quantum machines. The results demonstrate that our on-chip training achieves over 90% and 60% accuracy for 2-class and 4-class image classification tasks. The probabilistic gradient pruning brings up to 7% PQC accuracy improvements over no pruning. Overall, we successfully obtain similar on-chip training accuracy compared with noise-free simulation but have much better training scalability. The QOC code is available in the TorchQuantum library.

研究の動機と目的

• 実際の量子ハードウェア上で、指数的コストがかかる古典的シミュレーションを回避して、パラメータ付き量子回路（PQCs）の実用的でスケーラブルなトレーニングを可能にすること。
• NISQデバイスにおける量子ノイズが勾配の正確性を損ない、トレーニングの収束を妨えるという課題に対処すること。
• 信頼性の高い勾配のみを計算することでトレーニングの耐障害性と効率性を向上させ、必要な量子回路実行回数を削減すること。
• オンチップトレーニングに勾配プルーニングを適用することで、ノイズのないシミュレーションと同等の精度を実量子マシン上で達成できることを実証すること。

提案手法

• NISQハードウェア上で正確な量子勾配を直接計算するためのパラメータシフト則を用い、古典的シミュレーションを必要としないオンチップバックプロパゲーションを実現する。
• 相対誤差が大きい、特にノイズに強く影響を受けやすい小さな勾配を特定・除外する確率的勾配プルーニングを提案する。
• 蓄積された勾配の大きさに基づく確率的サンプリング戦略を採用し、最適化のための高信頼性勾配を優先する。
• 時間経過に伴うプルーニング意思決定の安定化を図るため、ウィンドウベースの勾配大きさの蓄積メカニズムを導入する。
• 収束性を向上させるために、Adam最適化法にコサインスケジューリングの学習率を適用する。
• QNNベンチマークにおけるエンドツーエンドの評価を実施するため、5台の実量子デバイス（例：ibmq_jakarta, ibmq_santiago）にフレームワークをデプロイする。

実験結果

リサーチクエスチョン

• RQ1 実際のNISQ量子ハードウェア上で、スケーラブルなPQCトレーニングのためのパラメータシフト勾配を効果的かつ効率的に計算できるか？
• RQ2 量子ノイズやゲートエラーは、特に小さな大きさの勾配に対して勾配の正確性にどのように影響するか？
• RQ3 確率的勾配プルーニングにより、ノイズの影響を軽減し、回路実行回数を増加させることなくトレーニング精度を向上させられるか？
• RQ4 勾配プルーニングを施したオンチップPQCトレーニングは、ノイズのない古典的シミュレーションの性能にどの程度近づけるか？
• RQ5 量子ビット数の増加に伴い、オンチップトレーニングの実行時間およびメモリコストはどのようにスケーリングするか？

主な発見

• QOCを用いたオンチップトレーニングは、実量子ハードウェアを用いて2クラス分類タスクで90%以上、4クラス分類タスクで60%以上の精度を達成した。
• 確率的勾配プルーニングにより、プルーニングなしのトレーニングと比較してPQCの精度が最大7%向上し、量子ノイズに対する耐障害性が向上した。
• 必要な量子回路実行回数を最大2倍まで削減しながら、精度を維持または向上させたことで、トレーニングの効率性が向上した。
• オンチップトレーニングの実行時間およびメモリコストは、量子ビット数にほぼ線形にスケーリングされ、27量子ビットを超えると古典的シミュレーションに比べて明確な量子優位性を示した。
• 古典的シミュレーションのコストは量子ビット数の増加に伴い指数関数的に増大し、24量子ビットを超える回路では数千GBに達する不実行レベルに達する一方、オンチップ実行は依然として実行可能であった。
• 確率的プルーニングは、決定論的プルーニングよりも1～7%の精度で優れており、勾配サンプリングバイアスを低減し、最適化の多様性を維持した。