[논문 리뷰] Learning Hidden Quantum Markov Models

Siddarth Srinivasan, Geoff Gordon외 1명|arXiv (Cornell University)|2017. 10. 24.

Quantum Computing Algorithms and Architecture참고 문헌 2인용 수 5

한 줄 요약

이 논문은 양자 형식을 활용하여 고전적 HMM을 확장한 양자 영감을 받은 확률 모델인 히든 양자 마르코프 모델(HQMM)을 위한 새로운 학습 알고리즘을 제안한다. 고전적 제약 조건을 완화하고 크라우스 연산자를 통해 HQMM를 수식화함으로써, 저자들은 예측 정확도가 고전적 HMM과 유사하지만 은닉 상태 수가 훨씬 적은 최대우도 학습 방법을 개발하였다. 이는 HQMM에서 생성된 데이터에 대해 성능을 보였다.

ABSTRACT

Hidden Quantum Markov Models (HQMMs) can be thought of as quantum probabilistic graphical models that can model sequential data. We extend previous work on HQMMs with three contributions: (1) we show how classical hidden Markov models (HMMs) can be simulated on a quantum circuit, (2) we reformulate HQMMs by relaxing the constraints for modeling HMMs on quantum circuits, and (3) we present a learning algorithm to estimate the parameters of an HQMM from data. While our algorithm requires further optimization to handle larger datasets, we are able to evaluate our algorithm using several synthetic datasets. We show that on HQMM generated data, our algorithm learns HQMMs with the same number of hidden states and predictive accuracy as the true HQMMs, while HMMs learned with the Baum-Welch algorithm require more states to match the predictive accuracy.

연구 동기 및 목표

• 히든 양자 마르코프 모델(HQMM)을 위한 실용적인 학습 알고리즘을 개발하는 것.
• 동일한 예측 정확도를 달성하는 데 더 적은 은닉 상태를 필요로 하여, HQMM이 고전적 HMM보다 순차적 데이터를 더 효율적으로 모델링할 수 있음을 보여주는 것.
• 고전적 HMM을 시뮬레이션하는 양자 회로를 통해 HQMM을 구성할 수 있으며, 양자 제약 조건을 완화하면 더 표현력이 풍부한 모델이 된다는 것을 보여주는 것.
• 제안된 학습 알고리즘을 합성 데이터셋에 적용하고, 바움-웰치 알고리즘을 사용한 표준 HMM 학습과 성능을 비교하는 것.
• HQMM가 순차적 데이터 모델링에서 고전적 모델의 타당한 대안이 될 수 있도록 이론적이고 경험적인 기반을 마련하는 것.

제안 방법

• 고전적 HMM을 시뮬레이션하기 위해 양자 회로를 구축한 후, 더 표현력 있는 모델링을 위해 양자 제약 조건을 완화한다. 이는 복소수 진폭을 사용할 수 있도록 한다.
• 클라우스 연산자를 사용하여 HQMM을 표현한다. 이는 고전적 확률 행렬을 일반화하며, 양자 프레임워크 내에서 유니터리 진동과 측정을 가능하게 한다.
• 노름 관측자 연산자 모델(NOOM)의 학습 알고리즘을 변형하여 HQMM에 대한 최대우도 비지도 학습 절차를 개발한다.
• 관측된 데이터로부터 클라우스 연산자를 반복 최적화를 통해 추정한다. 이때 모델 파라미터를 기반으로 기울기 기반 업데이트를 통해 학습 변수로 간주한다.
• 합성 데이터셋을 사용하여 알고리즘을 구현하고 평가하며, HQMM과 고전적 HMM에서 생성된 데이터를 기반으로 모델 성능과 파라미터 효율성을 비교한다.
• 양자 조건부 적용과 근사화 연산을 사용하여 믿음 상태 업데이트를 수행한다. 이는 고전적 추론을 양자 형식으로 일반화한다.

실험 결과

연구 질문

• RQ1 고전적 HMM을 클라우스 연산자 표현을 사용하여 양자 회로에서 충실하게 시뮬레이션할 수 있는가?
• RQ2 양자 형식에서 HMM을 모델링할 때 고전적 확률 제약 조건을 완화하면 어떤 이점이 있는가?
• RQ3 HQMM에 대해 데이터로부터 클라우스 연산자를 추정할 수 있는 최대우도 학습 알고리즘을 성공적으로 개발할 수 있는가?
• RQ4 HQMM은 더 적은 은닉 상태를 사용하면서도 고전적 HMM과 동일하거나 더 높은 예측 정확도를 달성할 수 있는가?
• RQ5 고전적 HMM에서 생성된 데이터에 대해, HQMM의 성능은 바움-웰치로 학습된 HMM과 비교하여 어떻게 되는가?

주요 결과

• HQMM에서 생성된 데이터에 대해 제안된 학습 알고리즘이 참 HQMM와 동일한 은닉 상태 수와 예측 정확도를 갖는 모델을 성공적으로 복원하였다.
• HQMM는 바움-웰치로 학습된 HMM과 동일한 예측 성능을 달성하지만, 훨씬 적은 은닉 상태를 필요로 한다. 예를 들어, HQMM에서 2개의 HQMM 상태가 HQMM에서 생성된 데이터에서 6개의 HMM 상태와 동일한 성능을 내는 것으로 나타났다.
• 고전적 HMM에서 생성된 합성 데이터에 대해, $ w < n $ 개의 클라우스 연산자를 가진 HQMM도 합리적인 모델을 학습할 수 있었으며, 이는 이론적 요구 조건인 $ w = n $ 를 초월한 유연성을 보여준다.
• 2,6,1-HQMM에 대해 학습 알고리즘이 테스트 예측 정확도(DA) 0.1303 (±0.0042)를 달성하여 참 HQMM의 성능과 일치하였고, HMM은 유사한 정확도를 달성하기 위해 최대 6개의 상태가 필요로 했다.
• HMM에서 생성된 데이터에 대해, $ w=5 $ 및 $ n=6 $ 인 HQMM는 테스트 DA 0.1877 (±0.0060)을 달성하였으며, 이는 6개 상태의 HMM이 달성한 0.1901 DA와 유사한 성능이었다. 그러나 더 많은 파라미터를 사용하고 학습 속도가 느렸다.
• 과도하게 파rameter화되어 있고 수렴 속도가 느리지만, HQMM 학습 알고리즘이 HQMM에서 생성된 시퀀스에 대해 은닉 상태 수가 적은 HMM 성능을 충족하거나 초월하는 모델을 성공적으로 식별하였다.