[論文レビュー] Machine learning in quantum computers via general Boltzmann Machines: Generative and Discriminative training through annealing.

Siddhartha Srivastava, Veera Sundararaghavan|arXiv (Cornell University)|Feb 3, 2020

Quantum Computing Algorithms and Architecture参考文献 9被引用数 4

ひとこと要約

本稿では、量子アニーリングを用いて状態をサンプリングすることで、生成的および判別的学習を可能にする、ハイブリッド量子古典的フレームワークを提案する。確率的勾配降下法の枠組み内でKL発散を最小化することで、有効な関数近似が達成され、論理回路のモデリングおよび特化した分布の学習が実証された。

ABSTRACT

We present a Hybrid-Quantum-classical method for learning Boltzmann machines (BM) for generative and discriminative tasks. Boltzmann machines are undirected graphs that form the building block of many learning architectures such as Restricted Boltzmann machines (RBM's) and Deep Boltzmann machines (DBM's). They have a network of visible and hidden nodes where the former are used as the reading sites while the latter are used to manipulate the probability of the visible states. BM's are versatile machines that can be used for both learning distributions as a generative task as well as for performing classification or function approximation as a discriminative task. We show that minimizing KL-divergence works best for training BM for applications of function approximation. In our approach, we use Quantum annealers for sampling Boltzmann states. These states are used to approximate gradients in a stochastic gradient descent scheme. The approach is used to demonstrate logic circuits in the discriminative sense and a specialized two-phase distribution using generative BM.

研究の動機と目的

• 量子ハードウェア上でボルツマンマシンを学習可能なスケーラブルなハイブリッド量子古典的手法の開発。
• 同一のフレームワークを用いて生成的モデリングと関数近似などの判別的タスクの両方を実現すること。
• 量子アニーリングを活用してボルツマン状態の効率的サンプリングを実現し、学習における勾配の近似を可能にすること。
• ボルツマンマシンにおける判別的学習のためのKL発散最小化の有効性を示すこと。

提案手法

• 古典的なモンテカルロ法に代わり、量子アニーリングを用いてボルツマン分布に従う状態をサンプリングする。
• 量子で得た勾配を用いた確率的勾配降下法により、ボルツマンマシンのパラメータを学習する。
• 量子ハードウェアがエネルギー期待値を計算するハイブリッド量子古典最適化ループを採用する。
• 可視ノードと隠れノードを無向グラフィカルモデルに用いて、データ分布と潜在的特徴を表現する。
• 2段階の訓練アプローチを実装：1つは生成的分布学習用、もう1つは判別的関数近似用。
• モデル分布とデータ分布の間のKL発散を最小化することで、判別的性能を向上させる。

実験結果

リサーチクエスチョン

• RQ1 量子アニーリングは、ハイブリッド量子古典フレームワークにおけるボルツマンマシンの学習に、ボルツマン状態の効果的サンプリングを可能にするか？
• RQ2 他の学習目的と比較して、KL発散の最小化は関数近似などの判別的タスクにおいてより優れた性能をもたらすか？
• RQ3 同一のボルツマンマシンアーキテクチャが、生成的モデリングと判別的分類の両方で効果的に使用可能か？
• RQ4 この設定における量子サンプリングの統合は、学習効率とモデル精度の向上にどのように寄与するか？
• RQ5 論理回路や特化した分布のモデリングにおいて、このアプローチの実用的限界と能力は何か？

主な発見

• KL発散の最小化を伴う量子サンプリング勾配を用いた訓練により、判別的タスク（関数近似）において優れた性能が達成された。
• 量子アニーリングによりボルツマン状態の効果的サンプリングが可能となり、学習における古典的サンプリングの代替手段として有効であることが示された。
• フレームワークは判別的状態における論理回路のモデリングに成功しており、量子強化AIタスクへの応用可能性を示唆している。
• 2段階の訓練アプローチにより、モデルが特化した分布を学習できることを確認し、生成的能力を裏付けた。
• 古典的最適化と量子サンプリングを組み合わせたハイブリッドアーキテクチャは、スケーラブルな量子機械学習の可能性を示している。
• 結果から、量子サンプリングを用いて学習されるボルツマンマシンにおける判別的学習では、KL発散最小化が特に有効であることが示唆された。