[논문 리뷰] An Empirical Review of Optimization Techniques for Quantum Variational Circuits

Owen Lockwood|arXiv (Cornell University)|2022. 02. 03.

Quantum Computing Algorithms and Architecture인용 수 7

한 줄 요약

이 논문은 노이즈 없는 및 노이즈 있는 시뮬레이션을 통해 고전적 데이터와 양자적 데이터 작업을 위한 양자 변분 회로(QVCs)에 대해 46가지 최적화 기법을 경험적으로 평가한다. 결과적으로, 파라미터 시프트 기반 기울기 최적화 방법이 비-파라미터 시프트 방법보다 뛰어나며, 하이퍼파rameter 조정 없이도 Adam(학습률 0.1)이 최적임을 확인했고, SPSA와 파웰의 방법이 비-파라미터 시프트 최적화 방법 중에서 뛰어난 성능을 보였다. 특히, 널리 메이드 방법이 노이즈 있는 환경에서도 놀랍게 잘 성과를 냈으며, 기존의 통념을 도전한다.

ABSTRACT

Quantum Variational Circuits (QVCs) are often claimed as one of the most potent uses of both near term and long term quantum hardware. The standard approaches to optimizing these circuits rely on a classical system to compute the new parameters at every optimization step. However, this process can be extremely challenging, due to the nature of navigating the exponentially scaling complex Hilbert space, barren plateaus, and the noise present in all foreseeable quantum hardware. Although a variety of optimization algorithms are employed in practice, there is often a lack of theoretical or empirical motivations for this choice. To this end we empirically evaluate the potential of many common gradient and gradient free optimizers on a variety of optimization tasks. These tasks include both classical and quantum data based optimization routines. Our evaluations were conducted in both noise free and noisy simulations. The large number of problems and optimizers evaluated yields strong empirical guidance for choosing optimizers for QVCs that is currently lacking.

연구 동기 및 목표

• 양자 변분 회로(QVCs)의 최적화 알고리즘 선택에 있어 경험적 및 이론적 지침의 부족을 해결하기 위해.
• 고전적 데이터와 양자적 데이터를 포함한 다양한 QVC 작업에서 광범위한 기울기 기반 및 기울기 비기반 최적화기의 성능을 평가하기 위해.
• 노이즈 조건과 문제 크기가 다양할 때 최적화기 선택에 대한 경험적으로 기반을 둔 권고를 제공하기 위해.
• 실제 시뮬레이션 환경에서 실시한 테스트를 통해 양자 머신러닝에서 학습률과 최적화기 선택에 대한 일반적인 가정을 도전하기 위해.
• 향후 연구 및 실제 하드웨어 구현에 영향을 줄 수 있는 유망한 최적화 전략을 규명하기 위해.

제안 방법

• 이 연구는 2-qubit에서 25-qubit QVCs까지 최대 200개의 파라미터를 가진 46개의 서로 다른 최적화기 설정을 TensorFlow-Quantum를 사용하여 시뮬레이션하였다.
• 최적화 작업은 변분 양자 고유값 해법(VQE), 양자 회로 학습, 그리고 흥분 상태 분류를 포함하며, 고전적 데이터와 양자적 데이터를 모두 사용하였다.
• 노이즈 없는 조건, 샷 노이즈 전용 조건, 그리고 분해편향 노이즈 조건에서 시뮬레이션을 수행하여 내성적 저항성을 평가하였다.
• 기울기 기반 최적화기의 정확한 기울기 계산을 위해 파라미터 시프트 규칙을 사용하여 정밀하고 효율적인 파라미터 업데이트를 가능하게 하였다.
• SPSA, 널리 메이드, 파웰의 방법과 같은 블랙박스 최적화기는 기울기 계산 없이 기능 평가에만 의존하여 평가되었다.
• 성능 평가는 수렴 속도나 샷 수를 고려하지 않고, 최종 비용 함수 값만 1,000회 최적화 단계 후에 측정하였다.

실험 결과

연구 질문

• RQ1 다양한 문제 유형과 노이즈 수준에서 양자 변분 회로에 대해 가장 뛰어난 최종 성능을 내는 최적화 알고리즘은 무엇인가?
• RQ2 파라미터 시프트 기반 기울기 최적화기와 비-파라미터 시프트 기반 기울기 최적화기 및 블랙박스 최적화기 간의 수렴성과 내성적 저항성은 어떻게 비교되는가?
• RQ3 높은 학습률(예: 0.1)을 사용하면 양자 머신러닝에서 최적화 성능이 향상되는가? 이는 고전적 딥러닝 관행과 반대된다.
• RQ4 기울기 기반 최적화기보다 열등시되는 경향이 있는 비기울기 기반 방법인 널리 메이드가 노이즈가 있거나 비어 있는 평탄한 골짜기 영역에서 기울기 기반 최적화기보다 뛰어난 성능을 낼 수 있는가?
• RQ5 특히 분해편향 노이즈와 샷 노이즈는 QVC에서 다양한 최적화기의 상대적 성능에 어떤 영향을 미치는가?

주요 결과

• 파라미터 시프트 기반 기울기 최적화기는 모든 테스트된 문제와 노이즈 수준에서 비-파라미터 시프트 방법보다 뚜렷이 뛰어난 성능을 보였다.
• 비-파라미터 시프트 최적화기 중에서는 SPSA와 파웰의 방법이 가장 뛰어난 성능을 보였으며, SPSA는 더 적은 기능 평가 수를 요구하고 강력한 내성적 저항성을 보였다.
• 하이퍼파rameter 조정 없이도 파라미터 시프트 최적화기 중에서 Adam(학습률 0.1)이 가장 뛰어난 결과를 냈으며, 이는 일반적인 고전적 딥러닝 관행과 정반대되는 결과였다.
• 하이퍼파rameter 조정이 가능한 경우, Adam, AMSGrad, NAdam(학습률 0.01 또는 0.1)이 뛰어난 성능을 보였으며, NAdam는 종종 높은 순위를 기록했다.
• 기울기 기반 최적화기와는 달리, 비기울기 기반 방법인 널리 메이드가 여러 설정에서 경쟁력 있거나 최상위 성능을 기록했으며, 특히 노이즈가 있는 환경에서 두각을 나타냈다.
• 모의 노이즈(최대 분해편향 노이즈 비율 0.05)가 최적화기 성능에 미치는 영향은 미미했으며, 이는 노이즈가 이러한 시뮬레이션에서 성능 차이의 주요 원인이 아닐 수 있음을 시사한다.