[論文レビュー] Benchmarking Quantum Hardware for Training of Fully Visible Boltzmann Machines

Dmytro Korenkevych, Yanbo Xue+5 more|arXiv (Cornell University)|Nov 14, 2016

Quantum Computing Algorithms and Architecture参考文献 18被引用数 15

ひとこと要約

本論文は、完全に可視なボルツマンマシンの学習に向けたD-Wave量子アンニューリングハードウェアのベンチマークを実施し、高エネルギー障壁を有するマルチモーダル分布の学習において、原始的な量子サンプル（k=0のギブスステップ）が、古典的コントラスト的勾配降下法（CD）および恒常的コントラスト的勾配降下法（PCD）を上回ることを示している。古典的ボルツマン分布から著しく逸脱しているにもかかわらず、量子サンプリングにより、より高速かつ高精度なパラメータ更新が可能となり、結果としてモデル性能が優れている。

ABSTRACT

Quantum annealing (QA) is a hardware-based heuristic optimization and sampling method applicable to discrete undirected graphical models. While similar to simulated annealing, QA relies on quantum, rather than thermal, effects to explore complex search spaces. For many classes of problems, QA is known to offer computational advantages over simulated annealing. Here we report on the ability of recent QA hardware to accelerate training of fully visible Boltzmann machines. We characterize the sampling distribution of QA hardware, and show that in many cases, the quantum distributions differ significantly from classical Boltzmann distributions. In spite of this difference, training (which seeks to match data and model statistics) using standard classical gradient updates is still effective. We investigate the use of QA for seeding Markov chains as an alternative to contrastive divergence (CD) and persistent contrastive divergence (PCD). Using $k=50$ Gibbs steps, we show that for problems with high-energy barriers between modes, QA-based seeds can improve upon chains with CD and PCD initializations. For these hard problems, QA gradient estimates are more accurate, and allow for faster learning. Furthermore, and interestingly, even the case of raw QA samples (that is, $k=0$) achieved similar improvements. We argue that this relates to the fact that we are training a quantum rather than classical Boltzmann distribution in this case. The learned parameters give rise to hardware QA distributions closely approximating classical Boltzmann distributions that are hard to train with CD/PCD.

研究の動機と目的

• 量子アンニューリングハードウェアが、完全に可視なボルツマンマシンの学習を加速する効果を評価すること。
• D-Wave量子ハードウェアのサンプリング分布を特徴づけ、古典的ボルツマン分布と比較すること。
• 古典的初期化手法（CDおよびPCD）と比較して、量子サンプルが学習効率を向上させるかどうかを調査すること。
• 非ボルツマン的量子サンプリングが、モデル学習およびパラメータ更新の精度に与える影響を評価すること。
• 原始的な量子サンプル（k=0）を、学習におけるマルコフ連鎖の有効な初期化として使用する可能性を検討すること。

提案手法

• 本研究では、スパースなチメラ接続を持つエネルギーに基づくモデルからサンプリングする目的で、2000キュービットのD-Wave量子アンニューリングハードウェアを用いる。
• モデル分布にボルツマン形式を仮定し、データとモデルの統計に基づく損失関数を用いて、確率的勾配降下法により完全に可視なボルツマンマシンを学習する。
• 初期化戦略として3つの方法を比較する：コントラスト的勾配降下法（CD）、恒常的コントラスト的勾配降下法（PCD）、および量子アンニューリングサンプル（QA）をギブスサンプリングの初期値として用いる。
• 各手法について、k=0からk=50までのギブスステップ数（k）を用い、反復回数に応じて学習率を段階的に低下させる。
• 性能評価は、テストデータ分布とモデル分布との間のKLダイバージェンスを用い、古典的ボルツマン分布および量子サンプルに基づくモデル分布を比較する。
• 検証の目的で、正確に解けるように設計された、モード間のエネルギー障壁が極めて高い人工問題に焦点を当てる。

実験結果

リサーチクエスチョン

• RQ1 量子アンニューリングハードウェアは、完全に可視なボルツマンマシンの学習において、CD や PCD といった古典的サンプリング手法に比べて計算的優位性を示すか？
• RQ2 D-Wave量子ハードウェアのサンプリング分布は、マルチモーダルなエネルギーランドスケープにおいて、古典的ボルツマン分布とどのように異なるか？
• RQ3 原始的な量子サンプル（k=0）は、古典的初期化手法と比較して、学習パフォーマンスにどの程度の向上効果をもたらすか？
• RQ4 量子ハードウェアのサンプルが非ボルツマン的であることは、確率的モデルの学習を妨げるか、あるいは促進するか？
• RQ5 量子サンプリングは、高エネルギー障壁を有するモデルにおいて、収束速度の向上およびより正確なパラメータ推定を実現できるか？

主な発見

• モード間のエネルギー障壁が極めて高い問題では、量子アンニューリングサンプル（k=0の原始的サンプルでさえも）が、CD や PCD よりもテストセットのKLダイバージェンスを顕著に低減する。
• QAサンプルを初期値として用いることで、学習がより高速化され、CD や PCD よりも少ないパラメータ更新回数で同等または優れた性能に到達する。
• ギブスサンプリングを一切行わない（k=0）状態でも、原始的な量子サンプルがk=50と同等の改善効果を示しており、量子分布自体が学習に有利であることが示唆される。
• 量子ハードウェアのサンプリング分布は古典的ボルツマン分布とは著しく異なるが、ボルツマンモデルを仮定した勾配更新も依然として効果的に収束する。
• その改善効果は、学習されたモデルパラメータが、CD/PCDでは到達しにくい、ターゲットの古典的ボルツマン分布に非常に近い量子分布を生成するからである。
• 結果から、量子ハードウェアは最適化のためのものだけでなく、生成モデルの学習における有効な初期化源としても利用可能である可能性が示唆される。