[논문 리뷰] Stochastic noise can be helpful for variational quantum algorithms

Junyu Liu, Frederik Wilde외 4명|arXiv (Cornell University)|2022. 10. 13.

Stochastic Gradient Optimization Techniques인용 수 13

한 줄 요약

이 논문은 비결정론적 노이즈—특히 유한한 양자 측정에서 발생하는 샷 노이즈—가 비볼록 최적화 경관에서 변분 양자 알고리즘의 엄격한 안장점으로부터 회피하는 데 기여할 수 있음을 보여준다. 고전적 안장점 회피 이론을 양자 환경에 적응시켜 수렴 보장을 도출하고, 최적의 노이즈 수준(예: 유한한 셸 수에서 유래)이 수렴을 가속화할 수 있음을 분석적으로 밝혀내어, 근접한 양자 장치에 대한 실용적인 전략을 제공한다.

ABSTRACT

Saddle points constitute a crucial challenge for first-order gradient descent algorithms. In notions of classical machine learning, they are avoided for example by means of stochastic gradient descent methods. In this work, we provide evidence that the saddle points problem can be naturally avoided in variational quantum algorithms by exploiting the presence of stochasticity. We prove convergence guarantees and present practical examples in numerical simulations and on quantum hardware. We argue that the natural stochasticity of variational algorithms can be beneficial for avoiding strict saddle points, i.e., those saddle points with at least one negative Hessian eigenvalue. This insight that some levels of shot noise could help is expected to add a new perspective to notions of near-term variational quantum algorithms.

연구 동기 및 목표

• 비볼록 최적화 경관에서 수렴을 방해하는 변분 양자 알고리즘(VQAs)의 안장점 문제를 다루기 위해.
• 자연적인 비결정론성—즉, 샷 노이즈—가 안장점에서 벗어나는 데 유용한 메커니즘으로 작용할 수 있는지 조사하기 위해.
• 유한한 셸 수의 노이즈를 동반한 비결정론적 경사 하강법 하에서 VQAs의 엄밀한 수렴 보장을 제공하기 위해.
• 학습률, 손실 함수의 변동성, 안장점 회피를 위한 임계 노이즈 수준 간의 관계를 연결하는 분석적 스케일링 법칙 유도하기 위해.
• 근접한 양자 하드웨어 실험에서 최적의 측정 셸 수를 선택하기 위한 실용적 지침 제공하기 위해.

제안 방법

• 클래식적 안장점 회피 이론(JordanSaddlePoints)을 양자 환경에 적응시켜, 경사 추정의 노이즈가 엄격한 안장점으로의 수렴을 방지할 수 있음을 보였다.
• 확률적 경사 업데이트를 비드라이프가 있는 랜덤 워크로 모델링하고, 노이즈가 안장점으로 향하는 결정론적 감쇠를 능가하는 임계 노이즈 수준을 유도하였다.
• 안장점 근처에서 손실 함수의 선형 근사를 사용하여, 노이즈 유도 변동성이 결정론적 경사 감쇠와 균형을 이루는 임계 노이즈 임계값을 유도하였다.
• 양자 신경미분핵(QNTK) 프레임워크를 적용하여 이중 손실 하에서 선형 모델 결과의 타당성을 검증하였으며, 비볼록 환경에서도 일관성을 확인하였다.
• 스케일링 법칙 유도: $\epsilon_{\text{cri}} \sim \eta \sqrt{\mathcal{L}(0)}$ 및 $\epsilon_{\text{cri}} \sim \eta \Delta_{\mathcal{L}}$로, 노이즈, 학습률, 손실의 변동성 간의 관계를 연결하였다.
• 실용적인 최적 셸 수 공식 제안: $N_{\text{cri}} \propto \Delta_{\mathcal{L}}^{-2}$, 4 큐비트 시스템에서의 실험적 검증을 포함한다.

실험 결과

연구 질문

• RQ1 유한한 양자 측정에서 발생하는 샷 노이즈가 비볼록 최적화 경관에서 변분 양자 알고리즘의 엄격한 안장점에서 벗어나는데 도움이 될 수 있는가?
• RQ2 확률적 변동성이 안장점으로 향하는 결정론적 경사 하강법을 능가하는 임계 노이즈 수준은 무엇인가?
• RQ3 학습률과 손실 함수의 변동성은 안장점 회피를 위한 최적의 측정 노이즈 수준에 어떤 영향을 미치는가?
• RQ4 선형 근사를 기반으로 유도된 이론적 스케일링 법칙은 실제 양자 회로 시뮬레이션과 하드웨어에서 검증될 수 있는가?
• RQ5 근접한 VQA에서 노이즈의 이점과 추정 정확도를 균형 잡는 데 최적의 측정 셸 수는 무엇인가?

주요 결과

• 안장점 회피를 위한 임계 노이즈 수준은 $\epsilon_{\text{cri}} \sim \eta \sqrt{\mathcal{L}(0)}$로 스케일링되며, 이는 초기 손실이 클수록 또는 학습률이 클수록 탈출하기 위해 더 많은 노이즈가 필요함을 시사한다.
• 수치 시뮬레이션에서 선형 스케일링 $\epsilon_{\text{cri}} \sim \eta \Delta_{\mathcal{L}}$ 가 관찰되었으며, 피팅 지수 $\Delta_{\text{cri}} \approx 0.8722$ 는 1에 가까워 те오리 모델을 지지한다.
• 최적의 측정 셸 수는 $N_{\text{cri}} \propto \Delta_{\mathcal{L}}^{-2}$ 로 스케일링되며, 4 큐비트 예제에서 유도된 값은 $N_{\text{cri}} \approx 131.8$ 이다.
• Qiskit를 사용한 실험적 검증에서 $c_\eta \approx 1.19733$ 의 일정한 상수가 도출되어, 실제 하드웨어 유사 환경에서 노이즈 모델의 정확성을 확인하였다.
• 이론은 선형 모델과 QNTK 기반 유도 모두에서 일관되며, 비볼록 VQA 경관에서의 강건성을 강화한다.
• 결과적으로, 유한한 측정에서 유도되는 소규모 제어 가능한 노이즈는 결함이 아니라 특징이 되며, 근접한 양자 알고리즘에서 더 빠른 수렴을 가능하게 한다.