[논문 리뷰] Improved Boltzmann machines with error corrected quantum annealing

Richard Y. Li, Tameem Albash외 1명|arXiv (Cornell University)|2019. 10. 03.

Quantum Computing Algorithms and Architecture참고 문헌 64인용 수 7

한 줄 요약

이 논문은 오차 보정된 양자 안내를 통한 버울츠만 기계 학습 향상을 위해 내재된 양자 안내 보정(NQAC)을 조사한다. NQAC가 효과적인 온도를 낮추고 바르스 앤 스트립스 및 굵은 그레인 MNIST 데이터셋에서 학습 성능을 향상시키는 것으로 입증되었으며, 샘플링이 목표 게바스 분포에서 벗어나도 성능 향상이 이루어지므로, 완전한 평형에 도달하지 않더라도 학습이 향상됨을 시사한다.

ABSTRACT

Boltzmann machines are the basis of several deep learning methods that have been successfully applied to both supervised and unsupervised machine learning tasks. These models assume that a dataset is generated according to a Boltzmann distribution, and the goal of the training procedure is to learn the set of parameters that most closely match the input data distribution. Training such models is difficult due to the intractability of traditional sampling techniques, and proposals using quantum annealers for sampling hope to mitigate the sampling cost. However, real physical devices will inevitably be coupled to the environment, and the strength of this coupling affects the effective temperature of the distributions from which a quantum annealer samples. To counteract this problem, error correction schemes that can effectively reduce the temperature are needed if there is to be some benefit in using quantum annealing for problems at a larger scale, where we might expect the effective temperature of the device to not be sufficiently low. To this end, we have applied nested quantum annealing correction (NQAC) to do unsupervised learning with a small bars and stripes dataset, and to do supervised learning with a coarse-grained MNIST dataset. For both datasets we demonstrate improved training and a concomitant effective temperature reduction at higher noise levels relative to the unencoded case. We also find better performance overall with longer anneal times and offer an interpretation of the results based on a comparison to simulated quantum annealing and spin vector Monte Carlo. A counterintuitive aspect of our results is that the output distribution generally becomes less Gibbs-like with increasing nesting level and increasing anneal times, which shows that improved training performance can be achieved without equilibration to the target Gibbs distribution.

연구 동기 및 목표

• 오차 보정된 양자 안내, 특히 내재된 양자 안내 보정(NQAC)이 버울츠만 기계 학습 향상에 기여하는지 평가하는 것.
• NQAC가 양자 안내에서 샘플된 분포의 효과적인 온도에 어떤 영향을 미치는지 조사하는 것.
• 향상된 기계 학습 성능가 목표 게바스 분포로의 평형에 더 나은 관련성이 있는지 판단하는 것.
• 안내 시간과 내재 수준이 성능 및 분포 정확도에 미치는 영향을 분석하는 것.
• 물리적 통찰을 얻기 위해 양자 안내 결과를 시뮬레이션된 양자 안내(SQA) 및 스핀 벡터 몬테카를로(SVMC)와 비교하는 것.

제안 방법

• D-Wave 2000Q 프로세서에서 버울츠만 기계 학습을 위한 이징 해밀토니안을 내재된 양자 안내 보정(NQAC)으로 인코딩하였다.
• DW2000Q의 '안내 스케줄 변동' 기능을 사용하여 중간 안내 지점에서의 시스템 상태를 탐색하였다.
• 두 가지 데이터셋을 사용하여 학습: 비지도 학습을 위한 작은 바르스 앤 스트립스 데이터셋과 지도 학습을 위한 굵은 그레인 MNIST 데이터셋.
• 목표 게바스 분포와의 분포 거리와 효과적인 온도 감소를 측정하여 성능을 평가하였다.
• 샘플링 행동을 검증하기 위해 시뮬레이션된 양자 안내(SQA) 및 스핀 벡터 몬테카를로(SVMC)와 결과를 비교하였다.
• 분포 정확도에 미치는 영향을 평가하기 위해 주로 투표 및 체인 폐기와 같은 복원 전략을 평가하였다.

실험 결과

연구 질문

• RQ1 NQAC는 버울츠만 기계 학습에서 양자 안내 샘플의 효과적인 온도를 낮추는가?
• RQ2 출력 분포가 목표 게바스 분포에서 벗어나도 향상된 학습 성능를 달성할 수 있는가?
• RQ3 안내 시간은 NQAC로 인코딩된 버울츠만 기계에서 성능 및 분포 정확도에 어떤 영향을 미치는가?
• RQ4 SQA와 SVMC는 D-Wave 장치에서 관찰된 샘플링 역학을 어느 정도 재현하는가?
• RQ5 주로 투표와 같은 복원 전략은 오차 보정된 양자 안내에서 샘플된 분포의 품질에 어떤 영향을 미치는가?

주요 결과

• NQAC는 특히 높은 노이즈 수준에서 효과적인 온도를 낮추는 데 성공하여 오차 억제가 향상됨을 나타냈다.
• 모든 내재 수준과 더 긴 안내 시간에서도 학습 성능 향상이 관찰되었으며, 내재 수준과 안내 시간이 증가함에 따라 출력 분포가 게바스 유사도를 떨어지게 되었음에도 불구하고 그러한 향상이 이루어졌다.
• 시스템은 중간 안내 지점에서 동역학이 정지하고 분포가 안정화되는 준정적 영역를 나타내었으며, 이는 SQA 및 SVMC 시뮬레이션과 일치하였다.
• 최종 해밀토니안으로의 평형에 개선이 없이도 성능 향상이 관찰되었으며, 이는 향상된 학습이 목표 게바스 분포로의 완전한 열역학적 평형을 필요로 하지 않음을 시사한다.
• 깨진 체인을 폐기하면 학습 성능가 크게 악화되었고, 주로 투표는 왜곡을 유발하는 것으로 나타나 복원 전략이 샘플링 정확도에 중요한 요소임을 시사한다.
• 결과는 NQAC가 노이즈가 많은 중규모 양자 안내에서 성능 이점을 제공할 수 있음을 시사하지만, 확장성과 최적의 파rameter 조정은 여전히 열린 과제이다.