[논문 리뷰] Laziness, Barren Plateau, and Noise in Machine Learning

Junyu Liu, Zexi Lin외 1명|arXiv (Cornell University)|2022. 06. 19.

Quantum Computing Algorithms and Architecture참고 문헌 57인용 수 12

한 줄 요약

이 논문은 변분 양자 및 고전적 신경망에서 '게으름(laziness)'을 별개의 현상으로 도입한다. 여기서 파라미터 갱신이 과다매개변수화로 인해 억제되며, 손실 함수 변화가 근본적으로 없어지는 '빈 테이블랜드(barren plateaus)'와는 다름을 밝힌다. 과다매개변수화된 상태에서 양자 회로는 노이즈에 강건하며, 빈 테이블랜드를 피할 수 있음을 보이며, 이는 이론적 및 수치적 증거로 뒷받침된다. 특히 과다매개변수화와 최적의 학습률 하에서 노이즈에 대한 강건성의 근거를 제시한다.

ABSTRACT

We define \emph{laziness} to describe a large suppression of variational parameter updates for neural networks, classical or quantum. In the quantum case, the suppression is exponential in the number of qubits for randomized variational quantum circuits. We discuss the difference between laziness and \emph{barren plateau} in quantum machine learning created by quantum physicists in \cite{mcclean2018barren} for the flatness of the loss function landscape during gradient descent. We address a novel theoretical understanding of those two phenomena in light of the theory of neural tangent kernels. For noiseless quantum circuits, without the measurement noise, the loss function landscape is complicated in the overparametrized regime with a large number of trainable variational angles. Instead, around a random starting point in optimization, there are large numbers of local minima that are good enough and could minimize the mean square loss function, where we still have quantum laziness, but we do not have barren plateaus. However, the complicated landscape is not visible within a limited number of iterations, and low precision in quantum control and quantum sensing. Moreover, we look at the effect of noises during optimization by assuming intuitive noise models, and show that variational quantum algorithms are noise-resilient in the overparametrization regime. Our work precisely reformulates the quantum barren plateau statement towards a precision statement and justifies the statement in certain noise models, injects new hope toward near-term variational quantum algorithms, and provides theoretical connections toward classical machine learning. Our paper provides conceptual perspectives about quantum barren plateaus, together with discussions about the gradient descent dynamics in \cite{together}.

연구 동기 및 목표

• 변분 양자 및 고전적 신경망에서 '게으름'(파라미터 갱신 억제)과 '빈 테이블랜드'(손실 함수 변화 극히 미미)의 차이를 명확히 하기.
• 과다매개변수화된 양자 회로가 복잡한 손실 곡면에도 불구하고 빈 테이블랜드를 피하는 이유를 이해하기 위해 신경접근핵(NTK) 이론을 기반으로 한 이론적 프레임워크 제공.
• 실제 노이즈 모델을 고려할 때 과다매개변수화 영역에서 변분 양자 알고리즘이 노이즈에 얼마나 강건한지 조사하기.
• 양자 빈 테이블랜드와 최적화의 정밀도 한계 사이의 정밀한 연결 고리를 설정하며, 문제를 노이즈 강건성의 관점에서 재해석하기.
• 랜덤화된 하드웨어 효율적 안사드를 활용한 수치 시뮬레이션을 통해 이론적 예측을 검증하며 잔여 오차와 노이즈 스케일링에 대한 분석 결과와 일치함을 보임.

제안 방법

• 게으름을 고차원 힐베르트 공간(양자) 또는 네트워크 폭(고전)으로 인한 파라미터 갱신 억제(δθμ)로 정의하며, 빈 테이블랜드(δℒ ≪ 1)와 대비함.
• 과다매개변수화된 양자 및 고전적 네트워크의 기울기 동역학을 분석하기 위해 신경접근핵(NTK) 이론을 적용하며, dQNTK가 과다매개변수화 조건에서 집중됨을 보임.
• 노이즈 하에서의 파라미터 진동을 기술하는 스토하스틱 미분 방정식(SDE) 모델을 유도하며, 잔여 오차 ε(t)는 ε(t) ≈ (1−ηK)^t ε(0) + 노이즈 항으로 표현됨.
• 노이즈 유도 오차를 노이즈 없는 잔여 오차와 동일시함으로써 노이즈 강건성 조건을 도입하며, 노이즈가 지배하기 시작하는 임계 시간 T_noise 를 유도함.
• 최종 잔여 오차를 최소화하기 위해 η ≈ O(1/K) 조건을 활용하며, 이는 ε(0) < O(L√N) 조건 하에서 dQNTK 집중과 일관됨을 보임.
• 4 큐비트 및 L=64를 사용한 랜덤화된 하드웨어 효율적 안사드에서 수치 시뮬레이션을 수행하며, 평균 잔여 오차 및 표준편차를 이론적 예측과 비교함.

실험 결과

연구 질문

• RQ1 변분 양자 회로에서 '게으름'은 빈 테이블랜드 현상과 어떻게 다릅니까?
• RQ2 과다매개변수화된 고전적 및 양자 신경망은 파라미터 갱신이 억제됨에도 불구하고 왜 실용적인가요?
• RQ3 노이즈 존재 하에서 변분 양자 알고리즘이 빈 테이블랜드를 피할 수 있는 조건은 무엇인가요?
• RQ4 노이즈는 과다매개변수화된 변분 양자 회로의 수렴성과 잔여 오차에 어떤 영향을 미칩니까?
• RQ5 양자 빈 테이블랜드 문제는 정밀도 한계로 재해석될 수 있으며, 어떤 노이즈 모델 하에서 이러한 해석이 타당합니까?

주요 결과

• 게으름—즉, 파라미터 갱신 억제—는 고전적 및 양자 과다매개변수화 네트워크 모두에서 발생하지만, 반드시 빈 테이블랜드를 의미하지는 않는다.
• 과다매개변수화된 양자 회로에서는 복잡한 손실 곡면과 많은 국소 최소값이 존재하지만, 노이즈 강건성과 dQNTK 집중 덕분에 빈 테이블랜드를 피함.
• 수치 시뮬레이션 결과는 잔여 오차가 노이즈 표준편차(σθ) 및 학습률(η)의 함수로 이론적 예측과 강력한 일치를 보임.
• 최적의 학습률는 η ≈ O(1/K)로 도출되었으며, 이는 최종 잔여 오차를 최소화하고 dQNTK 집중 조건과 일관됨을 보임.
• 노이즈가 잔여 오차에 지배적일 임계 시간 T_noise 는 해석적으로 유도되었고, 수치적 검증을 통해 노이즈 영향이 수많은 반복 후에야 두드러짐을 확인함.
• 최종 잔여 오차 σ_ε(∞) 는 √(2/π) ⋅ σ_θ / √(2η − η²K) 로 스케일링되며, 이는 수치 실험에서 90% 신뢰구간 내 이론 예측과 일치함.