[논문 리뷰] Avoiding local minima in Variational Quantum Algorithms with Neural Networks

Javier Rivera-Dean, Patrick Huembeli외 2명|arXiv (Cornell University)|2021. 04. 07.

Quantum Computing Algorithms and Architecture참고 문헌 43인용 수 17

한 줄 요약

이 논문은 파라미터화된 양자 회로의 출력에 고전적 피드포워드 신경망을 연결하여, 국소 최솟값에서 벗어나기 위해 비용 경계를 동적으로 수정함으로써 변분 양자 알고리즘의 성능을 향상시키는 새로운 방법을 제안한다. 신경망의 파라미터는 병렬로 역전파를 통해 갱신되며, 추가적인 양자 회로 평가가 거의 필요하지 않으며, 이 방법은 표준 기울기 하강법보다 낮은 비용 값과 더 깊은 최솟값을 달성한다. 이는 Max-Cut 문제에서 성능 향상을 이룬다.

ABSTRACT

Variational Quantum Algorithms have emerged as a leading paradigm for near-term quantum computation. In such algorithms, a parameterized quantum circuit is controlled via a classical optimization method that seeks to minimize a problem-dependent cost function. Although such algorithms are powerful in principle, the non-convexity of the associated cost landscapes and the prevalence of local minima means that local optimization methods such as gradient descent typically fail to reach good solutions. In this work we suggest a method to improve gradient-based approaches to variational quantum circuit optimization, which involves coupling the output of the quantum circuit to a classical neural network. The effect of this neural network is to peturb the cost landscape as a function of its parameters, so that local minima can be escaped or avoided via a modification to the cost landscape itself. We present two algorithms within this framework and numerically benchmark them on small instances of the Max-Cut optimization problem. We show that the method is able to reach deeper minima and lower cost values than standard gradient descent based approaches. Moreover, our algorithms require essentially the same number of quantum circuit evaluations per optimization step as the standard approach since, unlike the gradient with respect to the circuit, the neural network updates can be estimated in parallel via the backpropagation method. More generally, our approach suggests that relaxing the cost landscape is a fruitful path to improving near-term quantum computing algorithms.

연구 동기 및 목표

• NISQ 장치에서 최적 해로의 수렴을 방해하는 변분 양자 알고리즘(VQA)의 국소 최솟값 문제를 해결하기 위해.
• 히우리스틱 최적화 기법에 의존하는 대신, 비용 경계 자체를 수정하여 VQA에서 기울기 기반 최적화를 향상시키기 위해.
• 양자 회로 출력 후처리에 고전적 신경망을 활용하여 병렬 역전파를 통해 효율적이고 확장 가능한 최적화를 가능하게 하기 위해.
• 학습 가능한 후처리가 표준 VQA 접근법보다 낮은 비용 값과 더 깊은 최솟값을 도출할 수 있음을 보여주기 위해.
• 근처 양자 알고리즘에서 신경망 제어를 통해 비용 경계를 완화하는 일반적인 프레임워크를 제공하기 위해.

제안 방법

• 고전적 피드포워드 신경망을 파라미터화된 양자 회로(PQC)의 출력에 연결하며, 신경망의 가중치가 양자 회로의 측정된 비트 스트링을 후처리한다.
• 비용 함수를 양자 회로 파라미터와 신경망 가중치의 함수로 재정의함으로써 수정된 비용 경계를 생성한다.
• 배치 단위의 양자 측정 결과를 기반으로 역전파를 통해 신경망 가중치에 대한 기울기를 계산하여 병렬이고 효율적인 갱신을 가능하게 한다.
• 이 방법은 두 가지 알고리즘을 도입한다: 표준 VQA가 멈출 경우 국소 최솟값에서 벗어나기 위한 알고리즘과 최적화 전반에 걸쳐 비용 경계를 지속적으로 수정하는 알고리즘.
• 최적화 단계당 양자 회로 평가 수는 표준 VQA와 유사하게 유지되며, 신경망 기울기 추정이 병렬화되어 추가적인 양자 측정이 필요로 하지 않는다.
• 이 방법은 비용 경계의 동적 변형을 가능하게 하여, 작은 문제 인스턴스에서는 국소 최솟값을 전역 최솟값과 연결할 수 있다.

실험 결과

연구 질문

• RQ1 신경망을 통한 학습 가능한 후처리가 변분 양자 알고리즘의 비용 경계를 효과적으로 수정하여 국소 최솟값에서 벗어나는 데 기여하는가?
• RQ2 소규모 Max-Cut 인스턴스에서 제안된 방법이 표준 기울기 기반 VQA보다 낮은 비용 값과 더 깊은 최솟값을 달성하는가?
• RQ3 신경망의 기울기 갱신이 병렬로 효율적으로 계산될 수 있는가? 이는 표준 VQA의 양자 회로 평가 비용을 유지하는가?
• RQ4 소규모 문제 인스턴스에서 수정된 비용 경계가 국소 최솟값과 전역 최솟값 간의 연결성에 어떤 영향을 미치는가?
• RQ5 다양한 신경망 아키텍처와 후처리 전략이 VQA의 최적화 성능에 어떤 영향을 미치는가?

주요 결과

• 제안된 방법은 소규모 Max-Cut 문제 인스턴스에서 표준 기울기 하강법보다 낮은 비용 값과 더 깊은 최솟값을 성공적으로 도달한다.
• 간단한 Max-Cut 문제에서 수정된 비용 경계는 국소 최솟값과 전역 최솟값을 연결하여 최적화를 더 쉽게 만들 수 있다.
• 신경망의 기울기 갱신은 역전파를 통해 병렬로 계산되며, 표준 VQA와 거의 동일한 수의 양자 회로 평가 수를 유지한다.
• 이 방법은 복잡한 Max-Cut 인스턴스에서 표준 VQA보다 더 높은 해의 질을 달성하여 평균 비용 값을 개선했다.
• 이 프레임워크는 일반적이며 다양한 신경망 아키텍처, 후처리 전략, 최적화 목표로 확장 가능하다.
• 수치 시뮬레이션 결과, 두 번째 방법에서 사용된 GUIDE 알고리즘이 100개의 랜덤 초기화에서 성능을 향상시켰으며, 적절한 페널티 조정 시 특히 두드러진 성능 향상을 보였다.