[논문 리뷰] Impact of Barren Plateaus on the Hessian and Higher Order Derivatives

M. Cerezo, Patrick J. Coles|arXiv (Cornell University)|2020. 08. 17.

Neural Networks and Applications인용 수 18

한 줄 요약

이 논문은 바렌 플레이트오 `(BPs)` 가 존재할 경우 양자 신경망의 헤시안 및 고차 도함수들이 지수적으로 감쇠됨을 보여주며, 이는 헤시안 기반 최적화 방법이 기울기의 지수적 스케일링 문제를 극복할 수 없음을 의미한다. 이러한 발견은 BP 문제의 영향이 일阶 최적화를 넘어서, 변분 양자 알고리즘에서 모든 도함수 기반 전략으로까지 확장됨을 시사한다.

ABSTRACT

The Barren Plateau (BP) phenomenon is an issue for certain quantum neural networks and variational quantum algorithms, whereby the gradient vanishes exponentially in the system size $n$. The question of whether high-order derivative information such as the Hessian could help escape a BP was recently posed in the literature. Here we show that the elements of the Hessian are exponentially suppressed in a BP, so estimating the Hessian in this situation would require a precision that scales exponentially with $n$. Hence, Hessian-based approaches do not circumvent the exponential scaling associated with BPs. We also show the exponential suppression of higher order derivatives. Hence, BPs will impact optimization strategies that go beyond (first-order) gradient descent.

연구 동기 및 목표

• 변분 양자 알고리즘에서 바렌 플레이트오(BP) 문제를 헤시안 또는 고차 도함수로 완화할 수 있는지 조사하기.
• 바렌 플레이트오를 보이는 시스템에서 헤시안 및 고차 도함수의 스케일링 행동을 분석하기.
• 일阶 도함수를 초월한 도함수 기반 최적화 방법이 바렌 플레이트오의 특징인 기울기의 지수적 감쇠를 피할 수 있는지 규명하기.

제안 방법

• 바렌 플레이트오 조건 하에서 양자 신경망의 헤시안 행렬에 대한 이론적 분석.
• 시스템 크기 n이 증가함에 따라 랜덤 파라미터 회로에서 헤시안 요소의 기대값을 유도하고 평가하기.
• 분석을 고차 도함수로 확장하여 동일한 영역에서의 지수적 감쇠를 보여주기.
• 변분 양자 알고리즘에서의 일반적인 행동을 모델링하기 위해 랜덤 회로 안사우를 사용하기.
• 측도 집중 기법을 적용하여 도함수의 스케일링을 시스템 크기 n에 따라 정량화하기.
• 최적화 가능성을 평가하기 위해 기울기, 헤시안, 고차 도함수 크기의 비교 분석 수행하기.

실험 결과

연구 질문

• RQ1 바렌 플레이트오 존재 시 헤시안 행렬의 요소들이 지수적으로 감쇠되는가?
• RQ2 헤시안의 지수적 감쇠는 기울기와 동일한 방식으로 시스템 크기 n에 따라 스케일링되는가?
• RQ3 헤시안 기반 최적화 전략은 변분 양자 알고리즘에서 바렌 플레이트오 문제를 피할 수 있는가?
• RQ4 고차 도함수 역시 BP 영역에서 지수적으로 감쇠되는가?
• RQ5 고차 도함수의 지수적 스케일링은 일阶 이상의 도함수 기반 최적화 방법을 무효화하는가?

주요 결과

• 헤시안 행렬의 요소들은 바렌 플레이트오 영역에서 지수적으로 감쇠되며, 시스템 크기 n에 대해 O(e^(-n))의 스케일링을 보인다.
• 바렌 플레이트오에서 헤시안을 추정하기 위해서는 n에 따라 지수적으로 증가하는 정밀도가 필요하여, 큰 시스템에선 실현 불가능하다.
• 헤시안과 마찬가지로 고차 도함수 역시 바렌 플레이트오 영역에서 지수적으로 감쇠된다.
• 고차 도함수의 지수적 감쇠는 그들에 의존하는 최적화 전략이 일阶 방법과 동일한 기본적인 스케일링 제약에 직면해 있음을 시사한다.
• 두 번째 또는 고차 도함수 최적화 기법을 사용한다고 해서 바렌 플레이트오 문제를 피할 수는 없으며, 모든 도함수 유형이 동일하게 영향을 받는다.