[논문 리뷰] QOC: Quantum On-Chip Training with Parameter Shift and Gradient Pruning

Hanrui Wang, Zirui Li외 4명|arXiv (Cornell University)|2022. 02. 26.

Quantum Computing Algorithms and Architecture인용 수 5

한 줄 요약

QOC는 실제 NISQ 장치에서 파라미터 스위치 기울기 방법을 사용하여 확장 가능한, 칩 내에서의 파라미터화된 양자 회로(PQC) 학습을 위한 최초의 실험적 구현을 제시한다. 노이즈가 많고 크기가 작은 기울기들을 걸러내기 위해 확률적 기울기 정제 기법을 도입함으로써, QOC는 2개 클래스 이미지 분류 작업에서 90% 이상, 4개 클래스 작업에서 60% 이상의 정확도를 달성하며, 노이즈가 없는 시뮬레이션 성능과 동일한 결과를 얻었고, 강인성은 향상되고 회로 실행 횟수는 최대 2배까지 감소시켰다.

ABSTRACT

Parameterized Quantum Circuits (PQC) are drawing increasing research interest thanks to its potential to achieve quantum advantages on near-term Noisy Intermediate Scale Quantum (NISQ) hardware. In order to achieve scalable PQC learning, the training process needs to be offloaded to real quantum machines instead of using exponential-cost classical simulators. One common approach to obtain PQC gradients is parameter shift whose cost scales linearly with the number of qubits. We present QOC, the first experimental demonstration of practical on-chip PQC training with parameter shift. Nevertheless, we find that due to the significant quantum errors (noises) on real machines, gradients obtained from naive parameter shift have low fidelity and thus degrading the training accuracy. To this end, we further propose probabilistic gradient pruning to firstly identify gradients with potentially large errors and then remove them. Specifically, small gradients have larger relative errors than large ones, thus having a higher probability to be pruned. We perform extensive experiments with the Quantum Neural Network (QNN) benchmarks on 5 classification tasks using 5 real quantum machines. The results demonstrate that our on-chip training achieves over 90% and 60% accuracy for 2-class and 4-class image classification tasks. The probabilistic gradient pruning brings up to 7% PQC accuracy improvements over no pruning. Overall, we successfully obtain similar on-chip training accuracy compared with noise-free simulation but have much better training scalability. The QOC code is available in the TorchQuantum library.

연구 동기 및 목표

• 실제 양자 하드웨어에서의 실용적이고 확장 가능한 파라미터화된 양자 회로(PQC) 학습을 가능하게 하여, 지수적 비용이 드는 고전적 시뮬레이션을 피하고자 한다.
• NISQ 장치에서 발생하는 양자 노이즈가 기울기 정확도를 떨어뜨리고 학습 수렴을 해칠 수 있는 문제를 해결하고자 한다.
• 신뢰할 수 있는 기울기들만 선택적으로 계산하여 학습의 강인성과 효율성을 향상시키고, 필요한 양자 회로 실행 횟수를 줄이고자 한다.
• 칩 내 학습과 기울기 정제를 통해 노이즈가 없는 시뮬레이션 성능과 유사한 정확도를 실제 양자 기계에서 달성할 수 있음을 입증하고자 한다.

제안 방법

• NISQ 하드웨어에서 정확한 양자 기울기를 직접 계산하기 위해 파라미터 스위치 규칙을 사용하여, 고전적 시뮬레이션 없이도 칩 내 역전파를 가능하게 한다.
• 상대적 오차가 높은, 특히 노이즈에 민감한 작은 기울기들을 식별하고 제거하는 확률적 기울기 정제 기법을 제안한다.
• 누적된 기울기 크기를 기반으로 한 스트로스틱 샘플링 전략을 도입하여, 최적화 과정에서 신뢰도가 높은 기울기들을 우선순위로 배정한다.
• 시간에 따라 안정적인 정제 결정을 확보하기 위해 창 기반의 기울기 크기 누적 메커니즘을 도입한다.
• 학습 수렴을 향상시키기 위해 Adam 최적화기와 코즈인 학습률 스케줄러를 적용한다.
• QNN 벤치마크에서 종단 간 평가를 위해 5종의 실제 양자 장치(예: ibmq_jakarta, ibmq_santiago)에 프레임워크를 구현한다.

실험 결과

연구 질문

• RQ1 실제 NISQ 양자 하드웨어에서 파라미터 스위치 기울기를 확장 가능한 PQC 학습을 위해 효과적이고 효율적으로 계산할 수 있는가?
• RQ2 양자 노이즈와 게이트 오류는 특히 크기가 작은 기울기들에 대해 기울기 정확도에 어떤 영향을 미치는가?
• RQ3 확률적 기울기 정제 기법이 노이즈가 많은 기울기의 영향을 줄이고, 회로 실행 횟수를 늘리지 않으면서도 학습 정확도를 향상시킬 수 있는가?
• RQ4 기울기 정제를 적용한 칩 내 PQC 학습이 노이즈가 없는 고전적 시뮬레이션의 성능에 얼마나 가까이 도달할 수 있는가?
• RQ5 큐비트 수가 증가함에 따라 런타임 및 메모리 비용 측면에서 칩 내 학습의 확장성은 어느 정도인가?

주요 결과

• QOC를 활용한 칩 내 학습은 실제 양자 하드웨어를 사용하여 2개 클래스 이미지 분류 작업에서 90% 이상, 4개 클래스 작업에서 60% 이상의 정확도를 달성한다.
• 확률적 기울기 정제 기법은 정제 없이 학습하는 것에 비해 PQC 정확도를 최대 7% 향상시키며, 양자 노이즈에 대한 강인성을 향상시킨다.
• 이 방법은 정확도를 유지하거나 향상시키면서도 필요한 양자 회로 실행 횟수를 최대 2배까지 줄여 학습 효율성을 향상시킨다.
• 칩 내 학습의 런타임 및 메모리 비용은 큐비트 수에 따라 거의 선형적으로 증가하며, 27 큐비트를 초과할 경우 고전적 시뮬레이션 대비 명확한 양자 우위를 보여준다.
• 고전적 시뮬레이션 비용은 큐비트 수 증가에 따라 지수적으로 증가하여 24 큐비트를 초과하는 회로에서는 기하급수적으로 증가하며 수천 GB에 이르는 수준에 도달하여 처리 불가능해지지만, 칩 내 실행은 여전히 가능하다.
• 확률적 정제 기법은 기울기 샘플링 편향을 줄이고 최적화 다양성을 유지함으로써, 결정론적 정제 대비 정확도에서 1~7% 우수한 성능을 보였다.