[논문 리뷰] Beyond Barren Plateaus: Quantum Variational Algorithms Are Swamped With Traps

Eric R. Anschuetz, Bobak T. Kiani|arXiv (Cornell University)|2022. 05. 11.

Quantum Computing Algorithms and Architecture인용 수 15

한 줄 요약

이 논문은 변분 양자 알고리즘(VQAs)이 바렌 플레이트오를 비롯해, 얕고 바렌 플레이트오 없는 모델조차도 전역 최적해에서 멀리 떨어진 국소 최소점의 과도한 집중으로 인해 근본적으로 학습이 불가능하다는 것을 보여준다. 통계적 질의 학습 이론과 손실 경관 분석을 통해 저자들은 노이즈가 있는 최적화에서 초월 다항식 질의 복잡도가 부족하다는 것을 증명하였으며, 수치 결과는 대부분의 국소 최소점이 전역 최소점과 에너지 기준으로 지수적으로 떨어져 있음을 확인한다. 특히 파rameter와 국소 힐베르트 공간 비율이 낮을수록 더욱 심각하다.

ABSTRACT

One of the most important properties of classical neural networks is how surprisingly trainable they are, though their training algorithms typically rely on optimizing complicated, nonconvex loss functions. Previous results have shown that unlike the case in classical neural networks, variational quantum models are often not trainable. The most studied phenomenon is the onset of barren plateaus in the training landscape of these quantum models, typically when the models are very deep. This focus on barren plateaus has made the phenomenon almost synonymous with the trainability of quantum models. Here, we show that barren plateaus are only a part of the story. We prove that a wide class of variational quantum models -- which are shallow, and exhibit no barren plateaus -- have only a superpolynomially small fraction of local minima within any constant energy from the global minimum, rendering these models untrainable if no good initial guess of the optimal parameters is known. We also study the trainability of variational quantum algorithms from a statistical query framework, and show that noisy optimization of a wide variety of quantum models is impossible with a sub-exponential number of queries. Finally, we numerically confirm our results on a variety of problem instances. Though we exclude a wide variety of quantum algorithms here, we give reason for optimism for certain classes of variational algorithms and discuss potential ways forward in showing the practical utility of such algorithms.

연구 동기 및 목표

• 바렌 플레이트오가 없는 상황에서, 국소 회로와 국소 비용 함수를 갖는 변분 양자 알고리즘(VQAs)이 여전히 학습 가능한지 조사하기 위해.
• 바렌 플레이트오가 VQA 학습 가능성의 주요 장애물이라는 가정을 도전하기 위해, 더 넓은 범위의 학습 불가능성 메커니즘을 규명하기 위해.
• 통계적 질의 학습 이론을 사용하여 노이즈가 있는 조건에서 VQA의 학습 가능성에 대한 이론적 한계를 설정하기 위해.
• VQA의 손실 경관의 구조를 분석하고, 바렌 플레이트오가 존재하지 않더라도 국소 최소점이 전역 최소점에서 매우 멀리 떨어져 있음을 보여주기 위해.
• 일반적인 경우에서 전역 최소점과 일정 에너지 이내의 국소 최소점 비율이 초다항적으로 작다는 수치적 증거를 제공하기 위해.

제안 방법

• 노이즈가 있는 양자 모델 최적화의 질의 복잡도를 제한하기 위해 통계적 질의(SQ) 학습 모델을 이론적으로 분석하여, 초월 다항식 질의 수는 노이즈 하에서 학습에 부족하다는 것을 보여주었다.
• 손실 경관을 모델링하기 위해 위샤르 고체형 무작위 장(WHRFs)을 적용하였으며, 과다 매개변수 비율 γ = l/(2m)이 학습 가능성에 영향을 주는 핵심 순서 매개변수로 작용한다.
• WHRF에서 국소 최소점의 渐近 분포를 유도: Crt₀(E) ∼ e^(-mE) E^(m−l/2) (1−2E)^l. 이는 γ ≪ 1일 경우 초다항적으로 작은 양호한 최소점 비율을 예측한다.
• VQA 손실 함수에서 함수 값, 기울기, 헤시안의 공동 분포가 WHRF의 분포로 충분한 속도로 수렴함을 증명하여, 단계 전이 결과의 이행이 가능하다.
• QCNN 및 기타 문제 사례에 대한 수치적 검증을 통해, 바렌 플레이트오가 없는 얕은 회로에서도 손실 경관이 열악한 국소 최소점에 의해 지배됨을 확인하였다.
• 노이즈가 있는 최적화를 시뮬레이션하기 위해 양자 통계적 질의 모델(qCSQ 및 qUSQ)을 사용하였으며, NISQ 장치에서 흔히 나타나는 노이즈가 초월 다항식 질의 수로는 학습을 불가능하게 한다는 것을 보였다.

실험 결과

연구 질문

• RQ1 얕고 바렌 플레이트오가 없는 상황에서, 변분 양자 알고리즘(VQAs)이 여전히 학습이 불가능한가, 특히 국소 회로에서 그렇지 않은가?
• RQ2 VQA 손실 경관에서 전역 최소점에서 멀리 떨어진 국소 최소점의 집중은 무엇에 의해 결정되는가?
• RQ3 통계적 질의 학습 이론을 사용하여 노이즈가 있는 양자 모델의 학습 가능성에 대한 기본 한계를 설정할 수 있는가?
• RQ4 국소 매개변수 수와 국소 힐베르트 공간 차원 비율은 얕은 VQAs의 학습 가능성 단계 전이를 어떻게 규정하는가?
• RQ5 수치 시뮬레이션은 일반적인 VQA 사례에서 국소 최소점이 전역 최소점으로부터 지수적으로 떨어져 있음을 어느 정도 확인하는가?

주요 결과

• 바렌 플레이트오가 없는 얕은 VQAs에서, 전역 최소점과 일정 에너지 이내의 국소 최소점 비율은 문제 크기에 대해 초다항적으로 작다. 이는 양호한 초기화 없이 학습이 불가능하다는 것을 의미한다.
• VQA 손실 경관의 학습 가능성 단계 전이는 전역 매개변수 대 힐베르트 공간 비율이 아니라, 측정된 관측량의 역광원 내 국소 매개변수 대 국소 힐베르트 공간 비율에 의해 결정된다.
• 과다 매개변수 비율 γ = l/(2m)이 γ = o(1/log(n))를 만족할 경우, 양호한 국소 최소점의 비율은 초다항적으로 작아지며, 이는 근본적인 학습 불가능성을 시사한다.
• 통계적 질의 학습 이론은 초월 다항식 수의 질의로도, 시스템 크기에 대해 지수적으로 작은 노이즈가 존재하는 광범위한 양자 모델의 최적화가 불가능하다는 것을 증명한다.
• QCNN 및 기타 사례에 대한 수치 결과는 손실 경관이 열악한 국소 최소점에 의해 지배되며, 전역 최소점 주변에 희박한 양호한 점들이 존재함을 확인한다.
• 이 연구는 높은 대칭성과 양호한 초기화가 일반적이지 않은 비대칭 사례에서는 근본적인 함정 문제를 극복하는 데 부족하다는 점을 밝혔다.