[논문 리뷰] Learning to learn with quantum neural networks via classical neural networks

Guillaume Verdon, Michael Broughton외 6명|arXiv (Cornell University)|2019. 07. 11.

Quantum Computing Algorithms and Architecture인용 수 98

한 줄 요약

본 논문은 고전 순환 신경망을 메타-옵티마이저로 작동하게 하여 양자 변분 알고리즘의 초기화 개선과 양자-고전 최적화 반복 수를 감소시키고, QAOA 및 VQE 작업에서 크기 간 일반화가 입증되었다.

ABSTRACT

Quantum Neural Networks (QNNs) are a promising variational learning paradigm with applications to near-term quantum processors, however they still face some significant challenges. One such challenge is finding good parameter initialization heuristics that ensure rapid and consistent convergence to local minima of the parameterized quantum circuit landscape. In this work, we train classical neural networks to assist in the quantum learning process, also know as meta-learning, to rapidly find approximate optima in the parameter landscape for several classes of quantum variational algorithms. Specifically, we train classical recurrent neural networks to find approximately optimal parameters within a small number of queries of the cost function for the Quantum Approximate Optimization Algorithm (QAOA) for MaxCut, QAOA for Sherrington-Kirkpatrick Ising model, and for a Variational Quantum Eigensolver for the Hubbard model. By initializing other optimizers at parameter values suggested by the classical neural network, we demonstrate a significant improvement in the total number of optimization iterations required to reach a given accuracy. We further demonstrate that the optimization strategies learned by the neural network generalize well across a range of problem instance sizes. This opens up the possibility of training on small, classically simulatable problem instances, in order to initialize larger, classically intractably simulatable problem instances on quantum devices, thereby significantly reducing the number of required quantum-classical optimization iterations.

연구 동기 및 목표

• 근접 기간 장치용 양자 신경망(QNN)의 불충분한 매개변수 초기화를 해결한다.
• 고전 RNN이 매개변수 업데이트 휴리스틱을 학습하는 메타학습 접근법을 개발한다.
• 대표 문제 클래스에서 RNN 기반 초기화가 QAOA와 VQE의 수렴 속도를 높임을 입증한다.
• 학습 중에 본 것보다 더 큰 문제 인스턴스에 학습된 최적화 전략의 일반화를 보인다.

제안 방법

• QNN이 고전 최적화기에 의해 최적화되는 하이브리드 양자-고전 변분 루프를 모델링한다.
• 특히 LSTM인 순환 신경망(RNN)을 QNN 매개변수 업데이트를 출력하는 메타-옵티마이저로 사용한다.
• 대상 문제 클래스(QAOA MaxCut, QAOA Ising SK, Hubbard VQE)에 대한 작고 고전적으로 시뮬레이션 가능한 QNN 인스턴스의 분포에서 RNN을 학습시킨다.
• 타임스텝에 따른 QNN 비용의 개선 관찰에 기초한 메타학습 손실 L(phi)를 정의하여 RNN을 학습시킨다.
• 초기화 후 매개변수를 다듬기 위해 RNN 초기화자를 로컬 최적화기(예: Nelder-Mead)와 통합한다.
• QAOA 스타일의 양자-교대 연산자 안사츠(QAOA style)에서 QNN 매개변수가 그래디언트-디센트와 유사한 지형의 하이퍼파라미터로 작용하는 방식에 의존한다.

실험 결과

연구 질문

• RQ1 고전 RNN 메타-옵티마이저가 QAOA 및 VQE 설정에서 QNN에 대한 효과적인 매개변수 업데이트 휴리스틱을 학습할 수 있는가?
• RQ2 표준 초기화 전략과 비교해 RNN이 학습한 초기화가 원하는 정확도에 도달하기 위한 최적화 반복 횟수를 줄이는가?
• RQ3 작고 고전적으로 시뮬레이션 가능한 인스턴스에서 학습된 전략이 더 큰 문제 크기에 일반화되는가?
• RQ4 QAOA MaxCut, QAOA Ising SK, Hubbard VQE 등 양자 변분 알고리즘의 서로 다른 문제 클래스에서도 RNN 기반 초기화가 견고한가?

주요 결과

• 메타-옵티마이저로 학습된 순환 신경망은 주어진 정확도에 도달하기 위한 총 최적화 반복 수를 크게 개선한다.
• 학습된 초기화는 학습 세트를 넘어 다양한 문제 인스턴스 크기에서도 일반화가 잘 된다.
• RNN 초기화자는 Nelder-Mead와 같은 로컬 최적화기를 초기화할 때 다른 표준 매개변수 초기화 방법보다 우수하다.
• 학습은 작고 고전적으로 시뮬레이션 가능한 QNN 인스턴스에서 수행한 다음 양자 장치에서 더 크고 시뮬레이션하기 어려운 인스턴스에 적용할 수 있다.
• 이 연구는 양자 머신 러닝 알고리즘을 향상시키기 위한 메타학습의 첫 성공적인 적용을 보여준다.