[논문 리뷰] Learning to learn with quantum neural networks via classical neural networks

Guillaume Verdon, Michael Broughton외 6명|arXiv (Cornell University)|2019. 07. 11.

Quantum Computing Algorithms and Architecture참고 문헌 2인용 수 78

한 줄 요약

본 논문은 고전적 순환 신경망을 훈련시켜 양자 신경망(QNN)에 대한 파라미터 업데이트 휴리스틱을 학습하고, 메타-러닝을 이용해 QAOA와 VQE 최적화기를 초기화하며, 더 큰 문제 크기에 대한 일반화 가능성을 입증한다.

ABSTRACT

Quantum Neural Networks (QNNs) are a promising variational learning paradigm with applications to near-term quantum processors, however they still face some significant challenges. One such challenge is finding good parameter initialization heuristics that ensure rapid and consistent convergence to local minima of the parameterized quantum circuit landscape. In this work, we train classical neural networks to assist in the quantum learning process, also know as meta-learning, to rapidly find approximate optima in the parameter landscape for several classes of quantum variational algorithms. Specifically, we train classical recurrent neural networks to find approximately optimal parameters within a small number of queries of the cost function for the Quantum Approximate Optimization Algorithm (QAOA) for MaxCut, QAOA for Sherrington-Kirkpatrick Ising model, and for a Variational Quantum Eigensolver for the Hubbard model. By initializing other optimizers at parameter values suggested by the classical neural network, we demonstrate a significant improvement in the total number of optimization iterations required to reach a given accuracy. We further demonstrate that the optimization strategies learned by the neural network generalize well across a range of problem instance sizes. This opens up the possibility of training on small, classically simulatable problem instances, in order to initialize larger, classically intractably simulatable problem instances on quantum devices, thereby significantly reducing the number of required quantum-classical optimization iterations.

연구 동기 및 목표

• NISQ 기기에서 양자-고전 가변 알고리즘의 파라미터 초기화 개선을 촉진한다.
• QNN에 대해 효과적인 파라미터 업데이트 휴리스틱을 학습하는 고전 신경망(RNN)을 개발한다.
• 학습된 최적화 전략이 작고 고전적으로 시뮬레이션 가능한 인스턴스에서 큰 규모의 더 어려운 인스턴스로 일반화됨을 입증한다.
• RNN 기반 초기화가 Nelder-Mead 같은 로컬 최적화기와 함께 사용될 때 총 최적화 반복 횟수를 감소시킨다는 것을 보여준다.

제안 방법

• 하이브리드 양자-고전 루프를 시간 그래프로 모델링하고 QNN 파라미터 업데이트를 제안하도록 LSTM 기반 최적화기를 훈련한다.
• 훈련을 안내하기 위해 시간에 따른 관찰된 개선을 기반으로 메타러닝 손실 L(phi)를 정의한다 (Equation 2).
• 문제 클래스에 대해 전문화된 RNN 최적화기를 훈련한다: MaxCut용 QAOA, Sherrington-Kirkpatrick Ising 모델용 QAOA 및 Hubbard VQE ansatz에 대해.
• 훈련된 RNN을 few-shot 글로벌 초기화기로 사용하여 로컬 탐색 최적화기(Nelder-Mead 등)가 목표 정확도에 도달하도록 한다.
• 작고 고전적으로 시뮬레이션 가능한 QNN 인스턴스에서 학습을 가능하게 하고 더 큰 인스턴스에서도 일반화를 테스트한다.
• 역전파를 통해 펼쳐진(언롤된) 양자-고전 그래프를 거쳐 RNN 최적화기를 학습시키는(backpropagation through time) 방법을 논의한다.

실험 결과

연구 질문

• RQ1 고전적 RNN 최적화기가 양자 신경망(QNN)에 대해 효과적인 파라미터 업데이트 휴리스틱을 학습할 수 있는가?
• RQ2 작은 QNN 인스턴스에서 학습된 전문화된 RNN 최적화기가 같은 문제 클래스 내의 더 큰 문제 크기에 일반화되는가?
• RQ3 메타학습된 초기화가 로컬 최적화기와 결합될 때 총 최적화 반복 횟수를 줄이는가?
• RQ4 고전적으로 시뮬레이션 가능한 QNN에서 RNN 최적화기를 훈련하고 이를 더 크고 잠재적으로 다루기 어려운 양자 인스턴스에 디바이스에서 적용하는 것이 가능할까?
• RQ5 다른 QAOA 문제 클래스와 VQE ansatz 간에 메타러닝 전략이 어떻게 전달되는가?

주요 결과

• 작은 QNN 인스턴스에서 학습된 RNN 최적화기는 같은 문제 클래스 내의 더 큰 시스템 크기에 일반화된다.
• 학습된 RNN 최적화기를 이용한 초기화는 로컬 최적화기와 함께 사용할 때 주어진 정확도에 도달하기 위한 총 최적화 반복 횟수를 크게 줄인다.
• MaxCut QAOA, Ising SK QAOA, 그리고 Hubbard VQE를 위해 학습된 전문화된 RNN은 각 클래스의 보지 못한 더 큰 인스턴스에서 성능을 향상시켰다.
• 고전적으로 시뮬레이션 가능한 QNN에서의 학습은 재훈련 없이도 더 크고 더 어려운 QNN으로의 이전을 가능하게 한다.
• 이 접근법은 양자 기계학습 알고리즘을 향상시키기 위해 메타러닝을 적용한 첫 사례를 제시한다.
• RNN 최적화기는 로컬 최적화를 완전히 대체하기보다는 few-shot 글로벌 초기화기로 사용되어 실질적인 이점을 제공한다.