[논문 리뷰] Studying the Impact of Quantum-Specific Hyperparameters on Hybrid Quantum-Classical Neural Networks

Kamila Zaman, Tasnim Ahmed외 4명|arXiv (Cornell University)|2024. 02. 16.

Quantum Computing Algorithms and Architecture인용 수 5

한 줄 요약

논문은 양자 고유 하이퍼파라미터들(퀀비트, circuit depth, entanglement, encoding, shots, observables)이 이미지 분류를 위한 HQNN의 정확도와 학습 시간에 어떤 영향을 미치는지 분석하고, MNIST 부분 집합에서 Qiskit과 PennyLane 시뮬레이션을 사용한다.

ABSTRACT

In current noisy intermediate-scale quantum devices, hybrid quantum-classical neural networks (HQNNs) represent a promising solution that combines the strengths of classical machine learning with quantum computing capabilities. Compared to classical deep neural networks (DNNs), HQNNs present an additional set of hyperparameters, which are specific to quantum circuits. These quantum-specific hyperparameters, such as quantum circuit depth, number of qubits, type of entanglement, number of shots, and measurement observables, can significantly impact the behavior of the HQNNs and their capabilities to learn the given task. In this paper, we investigate the impact of these variations on different HQNN models for image classification tasks, implemented on the PennyLane framework. We aim to uncover intuitive and counter-intuitive learning patterns of HQNN models within granular levels of controlled quantum perturbations, to form a sound basis for their correlation to accuracy and training time. The outcome of our study opens new avenues for designing efficient HQNN algorithms and builds a foundational base for comprehending and identifying tunable hyperparameters of HQNN models that can lead to useful design implementation and usage.

연구 동기 및 목표

• NISQ 시대에서 양자 컴포넌트가 고전 신경망을 보강할 수 있는 HQNN 연구를 동기화한다.
• 퀀비트 수와 깊이 외의 광범위한 양자 하이퍼파라미터를 식별하여 성능에 대한 영향을 평가한다.
• 양자 하이퍼파라미터가 정확도와 학습 효율성에 어떤 영향을 미치는지 평가하는 체계적 프레임워크를 개발한다.
• 파라미터 상호 작용을 이해하여 효율적인 HQNN 아키텍처 설계에 대한 가이드라인을 제공한다.

제안 방법

• 입력 데이터에 대한 각도 인코딩을 사용하고 양자 층이 이후에 고전 층으로 연결된 HQNN 아키텍처를 정의한다.
• 레이어 깊이, 퀀비트 수, 얽힘 유형, 인코딩, 샷 수, 측정 관측값 등 양자 하이퍼파라미터를 변화시킨다.
• 세 가지 회로 유형(Basic Entangling, Strongly Entangling, Random Circuit)을 사용하고 4-, 9-, 16-퀀비트 구성을 평가한다.
• uniform한 고전 최적화 설정으로 MNIST 기반 4클래스 부분집합(0–3)에서 정확도와 학습 시간의 영향을 측정한다.
• 일관된 학습 설정으로 PennyLane과 Qiskit 백엔드 간의 성능을 비교한다.
• 고전 학습 곡선과 양자 하이퍼파라미터 섭동 간의 상관관계를 분석한다.

Figure 1. Overview of Our Contributions

실험 결과

연구 질문

• RQ1 퀀비트 수와 깊이 외의 양자 하이퍼파라미터가 이미지 분류 작업에서 HQNN의 정확도에 어떤 영향을 미치는가?
• RQ2 다양한 양자 회로 구성에서 회로 깊이, 퀀비트 너비, 그리고 학습 시간의 관계는 어떠한가?
• RQ3 관측값과 샷 수가 회로 유형 전체에서 HQNN 성능과 학습 효율성에 어떤 영향을 미치는가?
• RQ4 무작위, 기본 얽힘, 강하게 얽힌 회로는 양자 하이퍼파라미터에 서로 다른 민감도를 보이는가?
• RQ5 보다 효율적인 HQNN 설계를 위한 양자 하이퍼파라미터 선택 가이드라인을 확립할 수 있는가?

주요 결과

• 퀀비트 수를 증가시키면 회로 깊이와 무관하게 일반적으로 랜덤 회로의 정확도가 향상된다.
• 기본(entangling) 및 강하게 얽힌 회로의 경우, 더 많은 퀀비트 수가 항상 정확도를 단조롭게 높이지 않으며 더 깊은 회로는 성능을 저하시킬 수 있는데, 16-qubit 회로가 잠재적 바레른 페일로로 인해 최악의 성능을 보일 수 있다.
• 학습 시간은 회로 깊이와 복잡성에 따라 증가하며, 9에서 16 퀀비트로 넘어갈 때 큰 차이가 나타난다; 16 퀀비트의 랜덤 회로는 게이트 수가 적어 기본/강하게 얽힌 회로보다 학습이 더 빠르다.
• 관측값은 얕은 깊이에서 정확도에 영향을 미치며 PauliY가 무작위, 기본 및 강하게 얽힌 회로에서 PauliX나 PauliZ보다 더 높은 정확도를 내는 경향이 있으나 깊이 6에서는 그 효과가 감소한다.
• 샷 수를 100에서 1024로 증가시키면 기본 및 강하게 얽힌 회로의 정확도가 개선되지만 무작위 회로에는 큰 효과가 없다; 학습 시간은 샷 수보다는 깊이에 비례하여 증가한다.

Figure 2. General Architecture of QNN and HQNN