[논문 리뷰] Estimation of effective temperatures in quantum annealers for sampling applications: A case study towards deep learning

Marcello Benedetti, John Realpe-Gómez외 2명|arXiv (Cornell University)|2015. 10. 26.

Quantum Computing Algorithms and Architecture인용 수 1

한 줄 요약

이 논문은 딥러닝에서 깊이 있는 신경망 학습에 필수적인 정확한 볼츠만 샘플링을 가능하게 하기 위해 양자 앤날링 기계의 효과적 온도를 추정하는 알고리즘을 제안한다. 문제 인스턴스에 따라 달라지는 효과적 온도를 고려함으로써, 이 방법은 CD-100 수준의 성능을 달성하며 CD-1보다는 훨씬 뛰어나고 최신 기술 수준의 샘플링 효율성과도 맞먹는 성능을 보인다.

ABSTRACT

An increase in the efficiency of sampling from Boltzmann distributions would have a significant impact on deep learning and other machine-learning applications. Recently, quantum annealers have been proposed as a potential candidate to speed up this task, but several limitations still bar these state-of-the-art technologies from being used effectively. One of the main limitations is that, while the device may indeed sample from a Boltzmann-like distribution, quantum dynamical arguments suggest it will do so with an {\it instance-dependent} effective temperature, different from its physical temperature. Unless this unknown temperature can be unveiled, it might not be possible to effectively use a quantum annealer for Boltzmann sampling. In this work, we propose a strategy to overcome this challenge with a simple effective-temperature estimation algorithm. We provide a systematic study assessing the impact of the effective temperatures in the learning of a special class of a restricted Boltzmann machine embedded on quantum hardware, which can serve as a building block for deep-learning architectures. We also provide a comparison to $k$-step contrastive divergence (CD-$k$) with $k$ up to 100. Although assuming a suitable fixed effective temperature also allows us to outperform one step contrastive divergence (CD-1), only when using an instance-dependent effective temperature do we find a performance close to that of CD-100 for the case studied here.

연구 동기 및 목표

• 양자 앤날링 기계에서 문제 인스턴스에 따라 달라지는 효과적 온도로 인해 기계 학습을 위한 신뢰할 수 있는 볼츠만 샘플링이 저해되는 문제를 해결하기 위해.
• 양자 앤날링에서 각 문제 인스턴스에 특화된 효과적 온도를 추정하는 실용적인 알고리즘을 개발하기 위해.
• 효과적 온도 추정치가 깊이 있는 신경망 학습 응용 분야에서 제한된 볼츠만 기반 머신 러닝 모델(RBM) 학습에 미치는 영향을 평가하기 위해.
• 문제 인스턴스에 따라 달라지는 효과적 온도를 적용한 양자 앤날링 기반 샘플링 성능을 고전적 CD-k 방법(특히 CD-1 및 CD-100)과 비교하기 위해.
• 효과적 온도가 적절히 추정되었을 때, 양자 앤날링 기계가 고-k CD 방법(예: CD-100) 수준의 샘플링 품질을 달성할 수 있는지 확인하기 위해.

제안 방법

• 각 문제 인스턴스에 대해 양자 앤날링 기계의 효과적 온도를 추정하는 단순한 알고리즘을 제안한다. 이는 관측된 샘플 통계에 기반한다.
• 양자 앤날링 기계에서 관측된 샘플 분포를 이용해 볼츠만 분포와 가장 잘 일치하는 효과적 온도를 추론한다.
• 추정된 효과적 온도를 활용해 양자 하드웨어에서 제한된 볼츠만 기반 머신 러닝 모델(RBM)을 학습시켜 볼츠만 샘플링을 가능하게 한다.
• CD-k 방법(최대 k=100)과 비교하여 양자 앤날링 기반 RBM 학습의 학습 성능을 평가한다.
• 통계적 검증을 통해 추정된 효과적 온도가 목표 볼츠만 분포를 얼마나 잘 재현하는지 평가한다.
• 효과적 온도 추정의 영향을 모델 수렴성과 샘플링 정확도 측면에서 체계적으로 평가한다.

실험 결과

연구 질문

• RQ1 효과적 온도 추정이 기계 학습 작업에서 양자 앤날링 기계의 볼츠만 샘플링 정밀도를 향상시킬 수 있는가?
• RQ2 문제 인스턴스에 따라 달라지는 효과적 온도를 사용할 경우, 양자 앤날링 기반 RBM 학습 성능은 고전적 CD-k 방법과 어떻게 비교되는가?
• RQ3 효과적 온도가 적절히 추정되었을 때, 양자 앤날링 기계가 CD-100과 같은 고-k CD 방법의 성능에 얼마나 가까이 다가설 수 있는가?
• RQ4 고정된 효과적 온도를 사용할 경우와 인스턴스에 특화된 효과적 온도를 사용할 경우 RBM 학습 품질에 어떤 영향을 미치는가?
• RQ5 효과적 온도를 각 인스턴스에 맞게 校정했을 때, 양자 앤날링 기계가 CD-100 수준의 샘플링 효율성을 달성할 수 있는가?

주요 결과

• 제안된 효과적 온도 추정 알고리즘은 양자 앤날링 기계가 높은 정밀도로 볼츠만 유사 분포에서 샘플링할 수 있도록 하여, 고정된 온도 접근보다 목표 분포와 더 가까이 일치시킨다.
• 문제 인스턴스에 따라 달라지는 효과적 온도를 사용할 경우, 양자 앤날링 기계는 고전적 CD-100(연구 분야의 기준 성능)과 비교해 유사한 성능을 달성한다.
• 고정된 효과적 온도를 사용할 경우 CD-1보다는 성능이 뛰어나지만 CD-100 성능에 못 미치며, 이는 인스턴스 특화 校정의 중요성을 시사한다.
• 이 방법은 효과적 온도가 적절히 추정될 경우, 양자 앤날링 기계가 볼츠만 샘플링을 위한 실용적인 가속기로 활용될 수 있음을 보여준다.
• 이 연구는 양자 동역학적 효과로 인해 문제 인스턴스에 따라 달라지는 효과적 온도가 발생하며, 이를 고려하지 않으면 양자 앤날링 기계의 학습 과제에서 잠재력을 완전히 발휘할 수 없다는 점을 확인한다.
• 결과적으로 효과적 온도 추정은 양자 앤날링 기계를 딥러닝 파이프라인에 통합하는 데 핵심적인 요소임을 시사한다.