[論文レビュー] Learning Hidden Quantum Markov Models

Siddarth Srinivasan, Geoff Gordon+1 more|arXiv (Cornell University)|Oct 24, 2017

Quantum Computing Algorithms and Architecture参考文献 2被引用数 5

ひとこと要約

この論文は、量子形式を用いて古典的HMMを拡張する量子インスピレーションを受ける確率的モデル、隠れ量子マルコフモデル（HQMM）のための新しい学習アルゴリズムを提案する。古典的制約を緩和し、Kraus作用素を用いてHQMMを定式化することで、HQMM生成データ上で、予測精度がHMMと同等でありながら、はるかに少ない隠れ状態数で実現可能な最尤学習法を開発した。

ABSTRACT

Hidden Quantum Markov Models (HQMMs) can be thought of as quantum probabilistic graphical models that can model sequential data. We extend previous work on HQMMs with three contributions: (1) we show how classical hidden Markov models (HMMs) can be simulated on a quantum circuit, (2) we reformulate HQMMs by relaxing the constraints for modeling HMMs on quantum circuits, and (3) we present a learning algorithm to estimate the parameters of an HQMM from data. While our algorithm requires further optimization to handle larger datasets, we are able to evaluate our algorithm using several synthetic datasets. We show that on HQMM generated data, our algorithm learns HQMMs with the same number of hidden states and predictive accuracy as the true HQMMs, while HMMs learned with the Baum-Welch algorithm require more states to match the predictive accuracy.

研究の動機と目的

• 隠れ量子マルコフモデル（HQMM）の実用的学習アルゴリズムを開発すること。HQMMは古典的HMMの量子インスピレーションを受ける拡張である。
• 同じ予測精度を達成する場合に、HQMMがより少ない隠れ状態数で順序付きデータを効率的にモデル化できることを示すこと。
• 古典的HMMをシミュレートする量子回路からHQMMを構築できること、および量子制約を緩和することでより表現力のあるモデルが得られることを示すこと。
• 提案された学習アルゴリズムを合成データセットに対して実装・評価し、標準的なBaum-Welch法を用いたHMM学習と性能を比較すること。
• HQMMが順序付きデータモデリングにおける古典的モデルの代替手段として実用的であるための理論的および実証的基盤を確立すること。

提案手法

• 古典的HMMをシミュレートする量子回路を構築し、その後量子制約を緩和することで、複素数の振幅を用いたより表現力のあるモデリングを可能にする。
• Kraus作用素を用いてHQMMを表現し、古典的確率行列の一般化として、量子フレームワーク内でのユニタリ変換と測定を可能にする。
• ノルム観測可能作用素モデル（NOOM）からの学習アルゴリズムを適応し、HQMMのための最尤 unsupervised 学習手順を開発する。
• 反復的最適化を用いて、観測データからKraus作用素を推定し、モデルパラメータを勾配ベースの更新により学習可能な変数として扱う。
• HQMMおよび古典的HMMから生成された合成データセットに対してアルゴリズムを実装・評価し、モデル性能とパラメータ効率を比較する。
• 量子条件付き確率と周辺化操作を用いて信念状態を更新し、古典的推論を量子形式に一般化する。

実験結果

リサーチクエスチョン

• RQ1 古典的HMMは、Kraus作用素表現を用いて、量子回路で忠実にシミュレート可能か？
• RQ2 量子形式でHMMをモデリングする際、古典的確率的制約を緩和することで得られる利点は何か？
• RQ3 HQMMのKraus作用素をデータから推定するための最尤学習アルゴリズムを、実際に開発可能か？
• RQ4 HQMMは、少ない隠れ状態数で、古典的HMMと同等またはそれ以上の予測精度を達成できるか？
• RQ5 古典的HMMが生成したデータに対して、HQMMの性能はBaum-Welchで学習されたHMMと比べてどうか？

主な発見

• HQMMが生成したデータに対して、提案された学習アルゴリズムは、真のHQMMと同一の隠れ状態数および予測精度を持つモデルを成功裏に回復した。
• HQMMは、Baum-Welchで学習されたHMMと同等の予測性能を達成するが、はるかに少ない隠れ状態数を要する。例えば、HQMM生成データでは2つのHQMM状態が、6つのHMM状態と同等の性能を示した。
• 古典的HMMから生成された合成データに対しては、$ w < n $ 個のKraus作用素を用いたHQMMでも、妥当なモデルが学習可能であり、理論的要件の $ w = n $ を超える柔軟性を示した。
• 2,6,1-HQMMのテスト予測精度（DA）は0.1303（±0.0042）に達し、真のHQMMの性能と一致した。一方、HMMは同程度の精度に到達するためには最大6状態を必要とした。
• HMMが生成したデータに対して、$ w=5 $ および $ n=6 $ のHQMMはテストDA 0.1877（±0.0060）を達成し、6状態HMMの0.1901 DAと同等の性能を示したが、パラメータ数が多く、学習が遅かった。
• 過剰パラメータ化と収束の遅さにもかかわらず、HQMM学習アルゴリズムは、HQMM生成シーケンスにおいて、隠れ状態数を減らしながらもHMM性能を同程度または上回るモデルを成功裏に同定した。