[논문 리뷰] QuantumNAT: Quantum Noise-Aware Training with Noise Injection, Quantization and Normalization

Hanrui Wang, Jiaqi Gu외 5명|arXiv (Cornell University)|2021. 10. 21.

Quantum Computing Algorithms and Architecture참고 문헌 21인용 수 8

한 줄 요약

QuantumNAT는 노이즈에 민감한 훈련 프레임워크로, 파라미터화된 양자 회로(PQC)의 노이즈 간섭 양자(NISQ) 장치에서의 강건성을 향상시키기 위해 세 가지 핵심 기법을 통해 구현된다: 측정 후 정규화를 통한 노이즈 유도 분포 이탈 보정, 하드웨어 특화 오류 모델을 활용한 훈련 중 노이즈 주입, 측정 후 양자화를 통한 노이즈 제거. 이는 실제 양자 하드웨어에서 8개의 분류 작업에 걸쳐 최대 43%의 정확도 향상을 기록했으며, 2-, 4-, 10-클래스 작업의 정확도는 각각 94%, 80%, 34%를 기록했다.

ABSTRACT

Parameterized Quantum Circuits (PQC) are promising towards quantum advantage on near-term quantum hardware. However, due to the large quantum noises (errors), the performance of PQC models has a severe degradation on real quantum devices. Take Quantum Neural Network (QNN) as an example, the accuracy gap between noise-free simulation and noisy results on IBMQ-Yorktown for MNIST-4 classification is over 60%. Existing noise mitigation methods are general ones without leveraging unique characteristics of PQC; on the other hand, existing PQC work does not consider noise effect. To this end, we present QuantumNAT, a PQC-specific framework to perform noise-aware optimizations in both training and inference stages to improve robustness. We experimentally observe that the effect of quantum noise to PQC measurement outcome is a linear map from noise-free outcome with a scaling and a shift factor. Motivated by that, we propose post-measurement normalization to mitigate the feature distribution differences between noise-free and noisy scenarios. Furthermore, to improve the robustness against noise, we propose noise injection to the training process by inserting quantum error gates to PQC according to realistic noise models of quantum hardware. Finally, post-measurement quantization is introduced to quantize the measurement outcomes to discrete values, achieving the denoising effect. Extensive experiments on 8 classification tasks using 6 quantum devices demonstrate that QuantumNAT improves accuracy by up to 43%, and achieves over 94% 2-class, 80% 4-class, and 34% 10-class classification accuracy measured on real quantum computers. The code for construction and noise-aware training of PQC is available in the TorchQuantum library.

연구 동기 및 목표

• 고도로 노이즈가 많은 환경(~10^-3 수준)에서 실질적인 양자 하드웨어에서 PQC의 정확도가 심각하게 저하되는 문제(양자 신경망(QNN) 성능이 60% 이상 감소)를 해결하기 위해.
• 일般적인 노이즈 보정 방법이 추론 단계에서만 적용되는 데 반해, 훈련 및 추론 모두에서 작동하는 PQC 전용 노이즈 보정 프레임워크를 개발하기 위해.
• 하드웨어 특화 노이즈 모델을 사용해 훈련 중에 현실적인 노이즈를 시뮬레이션함으로써 PQC 파라미터의 내재적 강건성을 향상시키기 위해.
• 연속적인 측정 결과를 이산화하여 노이즈 변동에 민감도를 낮추고 노이즈 제거 효과를 강화함으로써 측정 노이즈의 영향을 감소시키기 위해.
• 실제 양자 컴퓨터에 배포 가능한 TorchQuantum 라이브러리를 통해 접근 가능한 실용적인 하드웨어 인식 훈련 파ip라인을 제공하기 위해.

제안 방법

• 측정 후 정규화는 각 큐비트에 대해 데이터 샘플 전역에서 측정 결과에 선형 변환(스케일링 및 이동)을 적용하여 양자 노이즈로 인한 특징 분포 이탈을 보정한다.
• 훈련 중 노이즈 주입은 IBMQ와 같은 QC 제조사의 실제 노이즈 모델을 기반으로 디폴라라이징, 비트 플립, 포지션 플립 오류 게이트를 PQC에 삽입하며, 오류 유형과 확률을 반복적으로 샘플링한다.
• 노이즈 주입 과정은 역전파 루프에 통합되어, 모델이 하드웨어 특화 노이즈에 견디는 강건한 파라미터를 학습할 수 있도록 한다.
• 측정 후 양자화는 연속적인 측정 결과를 이산화된 박스로 변환하여 소규모 노이즈 변동에 대한 민감도를 감소시키고 노이즈 제거 효과를 향상시킨다.
• 이 프레임워크는 세 단계 파이프라인으로 종단 간(end-to-end) 적용된다: (1) 추론 시 측정 정규화, (2) 노이즈 주입 훈련, (3) 추론 출력의 양자화.
• 이 방법은 6대의 실제 양자 장치에서 다양한 아키텍처와 하드웨어 구성의 QNN를 사용해 8개의 분류 작업에 대해 평가되었다.

실험 결과

연구 질문

• RQ1 측정 결과의 노이즈 유도 분포 이탈 문제를 다루는 PQC 전용 노이즈 보정 프레임워크가 실제 양자 하드웨어에서의 모델 정확도 향상에 기여할 수 있는가?
• RQ2 훈련 중에 하드웨어 특화 양자 노이즈를 주입함으로써 PQC 파라미터의 실제 장치 오류에 대한 강건성이 향상되는가?
• RQ3 측정 후 양자화가 노이즈 민감도를 어느 정도 감소시키고 노이즈 있는 양자 장치에서의 추론 정확도를 향상시키는가?
• RQ4 분류 복잡도 증가(예: 2-, 4-, 10-클래스 작업)에 따라 QuantumNAT의 성능은 어떻게 스케일링되는가?
• RQ5 테스트 배치 크기가 작을 경우, 검증 세트 통계를 사용해 테스트 시 측정값을 정규화하는 것이 효과적으로 작동하는가?

주요 결과

• QuantumNAT는 실제 양자 하드웨어에서 8개 작업에 걸쳐 최대 43%의 정확도 향상을 기록했으며, 10-클래스 분류에서 가장 큰 상대적 향상률인 230%를 기록했다.
• 2-클래스 작업에서는 QuantumNAT가 실제 장치에서 94%의 정확도를 기록했으며, 기준값인 58%를 크게 초월했다.
• 4-클래스 분류에서는 80%의 정확도를 기록했으며, 기준값 31% 대비 26%포인트 향상되었다.
• 10-클래스 작업에서는 QuantumNAT가 34%의 정확도를 기록했으며, 기준값 10% 대비 23%포인트 향상되었다.
• 검증 세트 통계를 사용한 정규화는 테스트 세트 통계를 사용한 결과(0.67)와 유사한 정확도(0.65)를 기록하여, 낮은 배치 크기 환경에서의 적용 가능성을 입증했다.
• 이 프레임워크는 IBMQ-Santiago, Yorktown, Belem, Athens, Melbourne 등 다양한 양자 장치에서 일관된 성능 향상을 보이며, 하드웨어에 종속되지 않으면서도 장치에 민감한 설계임을 확인했다.