[논문 리뷰] Tight and Efficient Gradient Bounds for Parameterized Quantum Circuits

Alistair Letcher, Stefan Woerner외 1명|arXiv (Cornell University)|2023. 09. 22.

Quantum Computing Algorithms and Architecture인용 수 5

한 줄 요약

이 논문은 t-design 가정에 의존하지 않고, 매개변수화된 양자 회로에 대해 날카운 비점근적 기울기 경계를 유도하며, 국소 항이 0이 아닌 혼합 관측량이 비잔 플레이트오면을 피함을 증명한다. 양자 GANs(qGANs)에 적용하여 얕은 생성기와 적절히 설계된 판별기로 인해 큐비트 수에 관계없이 일관된 1-로컬 기울기 가중치를 유지함을 보이며, 기하급수적 기울기 억제 없이 확장 가능한 학습이 가능함을 시사한다. 이는 16 큐비트의 qGAN이 가우시안 혼합 분포에서 성공적으로 학습된 것으로 입증되었다.

ABSTRACT

The training of a parameterized model largely depends on the landscape of the underlying loss function. In particular, vanishing gradients are a central bottleneck in the scalability of variational quantum algorithms (VQAs), and are known to arise in various ways. However, a caveat of most existing gradient bound results is the requirement of t-design circuit assumptions that are typically not satisfied in practice. In this work, we loosen these assumptions altogether and derive tight upper and lower bounds on loss and gradient concentration for a large class of parameterized quantum circuits and arbitrary observables, which are significantly stronger than prior work. Moreover, we show that these bounds, as well as the variance of the loss itself, can be estimated efficiently and classically-providing practical tools to study the loss landscapes of VQA models, including verifying whether or not a circuit/observable induces barren plateaus. In particular, our results can readily be leveraged to rule out barren plateaus for a realistic class of ansätze and mixed observables, namely, observables containing a non-vanishing local term. This insight has direct implications for hybrid Quantum Generative Adversarial Networks (qGANs). We prove that designing the discriminator appropriately leads to 1-local weights that stay constant in the number of qubits, regardless of discriminator depth. This implies that qGANs with appropriately chosen generators do not suffer from barren plateaus even at scale-making them a promising candidate for applications in generative quantum machine learning. We demonstrate this result by training a qGAN to learn a 2D mixture of Gaussian distributions with up to 16 qubits, and provide numerical evidence that global contributions to the gradient, while initially exponentially small, may kick in substantially over the course of training.

연구 동기 및 목표

• 비잔 플레이트오면으로 인한 변량 양자 알고리즘의 확장성 문제를 해결하기 위해.
• 일반적으로 실용적으로 비현실적인 t-design 가정에 의존하지 않고, 매개변수화된 양자 회로에 대한 기울기 경계를 도출하기 위해.
• 국소 항과 전역 항으로 구성된 혼합 관측량이 실제 환경에서 비잔 플레이트오면을 유도하는지 분석하기 위해.
• 하이브리드 양자 GANs(qGANs)가 기하급수적 기울기 억제 없이 학습될 수 있는 조건을 확립하기 위해.
• 이론적 경계에 의해 예측된 바와 같이, 연속 분포에 대해 확장 가능한 qGAN 학습의 실용적 가능성을 입증하기 위해.

제안 방법

• 구성적으로 검증 가능한 설계 선택만을 사용하여, 광범위한 매개변수화된 양자 회로 및 임의의 관측량에 대해 기울기 농도에 대한 날카운 상한 및 하한 경계를 유도한다.
• t-design 가정을 피하는 새로운 증명 기법을 도입하며, 대신 기본적인 대칭성과 기대값 논증에 기반한다.
• 기울기 경계를 하이브리드 qGAN에 적용하여, 심지어 깊은 고전적 판별기일지라도 1-로컬 기울기 기여가 큐비트 수에 관계없이 일정함을 보였다.
• 관측량을 국소 항과 전역 항으로 분해하여, 국소 항이 기울기 분산을 지배하고 기하급수적 억제를 방지함을 증명한다.
• 수치 실험에서 기울기를 추정하기 위해 동시 편미분 확률적 근사(Simultaneous Perturbation Stochastic Approximation, SPSA)를 사용하여 하드웨어에 적합한 평가를 보장한다.
• 2차원 가우시안 혼합 분포에서 최대 16 큐비트까지 qGAN의 수치적 학습을 수행하여 상대 엔트로피와 PDF 정밀도를 측정함으로써 결과를 검증한다.

Figure 1 : Illustration and examples of local vs. mixed vs. global observables. All observables act on $n$ qubits, but we omit the identity terms for convenience. For instance, $X$ denotes $X\otimes I^{\otimes\,n-1}$ .

실험 결과

연구 질문

• RQ1 t-design 가정에 의존하지 않고 매개변수화된 양자 회로에 대해 날카운 기울기 경계를 도출할 수 있는가?
• RQ2 국소 항이 0이 아닌 혼합 관측량이 실제 양자 회로에서 비잔 플레이트오면을 유도하는가?
• RQ3 판별기가 임의로 깊더라도 하이브리드 qGAN이 비잔 플레이트오면을 피할 수 있는가?
• RQ4 큐비트 수가 증가함에 따라 qGAN 학습 중 전역 기울기 기여와 국소 기울기 기여의 행동은 어떻게 되는가?
• RQ5 얕은 생성기를 가진 qGAN이 이론적 경계에 의해 예측된 바와 같이, 스케일링 가능한 복잡한 연속 분포를 성공적으로 학습할 수 있는가?

주요 결과

• 논문은 t-design 가정 없이도 광범위한 매개변수화된 양자 회로에 대해 날카운 기울기 경계를 확립하며, 이는 이전 연구보다 더 실용적이고 일반적인 프레임워크를 제공한다.
• 국소 항이 0이 아닌 혼합 관측량은 비잔 플레이트오면을 유도하지 않으며, 국소 기울기 기여의 분산이 0에서 멀리 떨어져 있음을 보여준다.
• qGAN에서 1-로컬 기울기 가중치는 심지어 깊은 고전적 판별기일지라도 큐비트 수에 관계없이 일정하게 유지되며, 이는 관측량의 구조와 회로 설계 덕분이다.
• 수치 실험을 통해 2차원 가우시안 혼합 분포에서 최대 16 큐비트까지 qGAN의 성공적인 학습이 이루어졌으며, 상대 엔트로피는 시간이 지남에 따라 감소하고, 성능은 고전적 GAN과 유사했다.
• 전역 기울기 기여는 초반에는 기하급수적으로 작았지만 학습 과정에서 크게 증가할 수 있었으며, 최적화 역학에서 비트리비한 역할을 할 수 있음을 시사한다.
• 결과적으로 전체 손실을 국소 손실 함수로 근사하는 것은 기울기 농도를 증가시킬 수 있으나, 일반적인 가정과는 달리 바람직하지 않은 국소 최적점을 유도할 수 있음을 보여준다.

Figure 2 : EfficientSU2 circuit eff ( 2023 ) with pairwise entanglement and $(R_{Y},R_{Z})$ rotation layers, illustrating the circuit structure introduced in Theorem 1 . After the first layer $R_{0}$ of single-qubit orthogonal rotations, any Clifford gates $W_{k}$ and any multi-qubit rotations $R_{P