[논문 리뷰] Machine learning in quantum computers via general Boltzmann Machines: Generative and Discriminative training through annealing.

Siddhartha Srivastava, Veera Sundararaghavan|arXiv (Cornell University)|2020. 02. 03.

Quantum Computing Algorithms and Architecture참고 문헌 9인용 수 4

한 줄 요약

이 논문은 양자 안내기를 사용하여 상태를 샘플링함으로써 보르츠만 기계를 훈련하기 위한 하이브리드 양자-고전적 프레임워크를 제안한다. 이는 생성적 및 판별적 학습을 모두 가능하게 하며, 확률적 경사 하강법 내에서 KL 발산을 최소화함으로써 효과적인 함수 근사와 논리 회로 모델링 및 특수 분포 학습을 실현한다.

ABSTRACT

We present a Hybrid-Quantum-classical method for learning Boltzmann machines (BM) for generative and discriminative tasks. Boltzmann machines are undirected graphs that form the building block of many learning architectures such as Restricted Boltzmann machines (RBM's) and Deep Boltzmann machines (DBM's). They have a network of visible and hidden nodes where the former are used as the reading sites while the latter are used to manipulate the probability of the visible states. BM's are versatile machines that can be used for both learning distributions as a generative task as well as for performing classification or function approximation as a discriminative task. We show that minimizing KL-divergence works best for training BM for applications of function approximation. In our approach, we use Quantum annealers for sampling Boltzmann states. These states are used to approximate gradients in a stochastic gradient descent scheme. The approach is used to demonstrate logic circuits in the discriminative sense and a specialized two-phase distribution using generative BM.

연구 동기 및 목표

• 양자 하드웨어에서 보르츠만 기계를 훈련하기 위한 확장 가능한 하이브리드 양자-고전적 접근법을 개발하는 것.
• 동일한 프레임워크를 통해 생성적 모델링과 함수 근사와 같은 판별적 작업을 모두 가능하게 하는 것.
• 보르츠만 상태의 효율적 샘플링을 위해 양자 안내기를 활용하여 훈련 중 기울기를 근사하는 것.
• 보르츠만 기계에서 판별적 학습의 성능 향상을 위해 KL 발산 최소화의 효과를 입증하는 것.

제안 방법

• 고전적 몬테카를로 샘플링을 대체하기 위해 보르츠만 분포 상태를 양자 안내기로 샘플링한다.
• 양자로 샘플된 기울기를 사용하는 확률적 경사 하강법을 통해 보르츠만 기계의 파라미터를 훈련시킨다.
• 양자 하드웨어가 에너지 기대값을 계산하는 하이브리드 양자-고전 최적화 루프를 적용한다.
• 데이터 분포와 잠재적 특징을 나타내기 위해 무방향 그래픽 모델에서 가시 노드와 은닉 노드를 사용한다.
• 생성적 분포 학습을 위한 한 단계와 판별적 함수 근사를 위한 다른 단계로 구성된 이중 단계 훈련을 구현한다.
• 모델과 데이터 분포 간의 KL 발산을 최소화하여 판별적 성능을 향상시킨다.

실험 결과

연구 질문

• RQ1 양자 안내기는 하이브리드 양자-고전 프레임워크에서 보르츠만 기계를 훈련하기 위해 보르츠만 상태를 효과적으로 샘플링할 수 있는가?
• RQ2 KL 발산 최소화는 다른 훈련 목표에 비해 함수 근사와 같은 판별적 작업에서 더 나은 성능을 내는가?
• RQ3 동일한 보르츠만 기계 아키텍처가 생성적 모델링과 판별적 분류에 모두 효과적으로 사용될 수 있는가?
• RQ4 이 설정에서 양자 샘플링의 통합이 훈련 효율성과 모델 정확도를 어떻게 향상시키는가?
• RQ5 이 방법의 실용적 한계와 능력은 논리 회로와 특수 분포를 모델링할 때 무엇인가?

주요 결과

• KL 발산 최소화를 통해 양자 샘플링 기울기를 사용하는 판별적 작업을 성공적으로 훈련시켰으며, 이는 훨씬 우수한 함수 근사 성능을 보였다.
• 양자 안내기는 효과적인 보르츠만 상태 샘플링을 가능하게 하여 고전적 샘플링과의 타당한 대안을 제공한다.
• 프레임워크는 판별적 영역에서 논리 회로의 성공적인 모델링을 보여주었으며, 이는 양자 강화 AI 작업의 잠재력을 시사한다.
• 이중 단계 훈련 방식을 통해 모델이 특수 분포를 학습함으로써 생성 능력의 확인이 이루어졌다.
• 고전 최적화와 양자 샘플링을 조합함으로써 확장 가능한 양자 기계 학습을 위한 잠재력 있는 아키텍처임을 보여주었다.
• 결과적으로, 양자 샘플링을 통해 훈련된 보르츠만 기계에서 KL 발산 최소화는 판별적 학습에 특히 효과적임을 시사한다.