[論文レビュー] Improved Boltzmann machines with error corrected quantum annealing

Richard Y. Li, Tameem Albash+1 more|arXiv (Cornell University)|Oct 3, 2019

Quantum Computing Algorithms and Architecture参考文献 64被引用数 7

ひとこと要約

この論文は、誤り訂正付き量子アンケーリングを用いたボルツマンマシン学習の改善を目指して、ネスト型量子アンケーリング補正（NQAC）を検討している。NQACは、サンプリングがターゲットのギブス分布から逸脱しても、バーズ・アンド・ストライプスおよび粗粒度MNISTデータセットにおいて有効温度を低下させ、学習性能を向上させることを示している。これは、完全な平衡化がなくても学習が改善されることを示唆している。

ABSTRACT

Boltzmann machines are the basis of several deep learning methods that have been successfully applied to both supervised and unsupervised machine learning tasks. These models assume that a dataset is generated according to a Boltzmann distribution, and the goal of the training procedure is to learn the set of parameters that most closely match the input data distribution. Training such models is difficult due to the intractability of traditional sampling techniques, and proposals using quantum annealers for sampling hope to mitigate the sampling cost. However, real physical devices will inevitably be coupled to the environment, and the strength of this coupling affects the effective temperature of the distributions from which a quantum annealer samples. To counteract this problem, error correction schemes that can effectively reduce the temperature are needed if there is to be some benefit in using quantum annealing for problems at a larger scale, where we might expect the effective temperature of the device to not be sufficiently low. To this end, we have applied nested quantum annealing correction (NQAC) to do unsupervised learning with a small bars and stripes dataset, and to do supervised learning with a coarse-grained MNIST dataset. For both datasets we demonstrate improved training and a concomitant effective temperature reduction at higher noise levels relative to the unencoded case. We also find better performance overall with longer anneal times and offer an interpretation of the results based on a comparison to simulated quantum annealing and spin vector Monte Carlo. A counterintuitive aspect of our results is that the output distribution generally becomes less Gibbs-like with increasing nesting level and increasing anneal times, which shows that improved training performance can be achieved without equilibration to the target Gibbs distribution.

研究の動機と目的

• 誤り訂正付き量子アンケーリング、特にネスト型量子アンケーリング補正（NQAC）がボルツマンマシンの学習を改善できるかどうかを評価すること。
• NQACが量子アンケーリングにおけるサンプル分布の有効温度に与える影響を調査すること。
• 向上した機械学習性能が、ターゲットのギブス分布への良好な平衡化と相関しているかどうかを特定すること。
• アンケーリング時間とネスティングレベルが性能および分布忠実度に与える影響を分析すること。
• 物理的洞察を得るため、量子アンケーリングの結果をシミュレーテッド量子アンケーリング（SQA）およびスピンベクトルモンテカルロ（SVMC）と比較すること。

提案手法

• D-Wave 2000Qプロセッサ上でボルツマンマシン学習のためのイジングハミルトニアンをNQACで符号化した。
• D-Wave 2000Qの「アンケーリングスケジュール変更」機能を用いて、中間のアンケーリングポイントにおけるシステム状態を調査した。
• 教師なし学習用に小さなバーズ・アンド・ストライプスデータセットと、教師あり学習用に粗粒度MNISTデータセットを用いて学習を行った。
• ターゲットギブス分布との分布距離と有効温度の低下を測定することで性能を評価した。
• サンプリング動作の妥当性を検証するため、シミュレーテッド量子アンケーリング（SQA）とスピンベクトルモンテカルロ（SVMC）と比較した。
• 分布忠実度への影響を評価するために、メジャリティ投票とチェーン破損の除外といったデコード戦略を評価した。

実験結果

リサーチクエスチョン

• RQ1 NQACはボルツマンマシン学習における量子アンケーリングサンプルの有効温度を低下させるか？
• RQ2 出力分布がターゲットギブス分布から逸脱しても、向上した学習性能を達成できるか？
• RQ3 アンケーリング時間がNQAC符号化ボルツマンマシンにおける性能および分布忠実度に与える影響はいかほどか？
• RQ4 SQAとSVMCは、D-Waveデバイスで観測されたサンプリングダイナミクスをどの程度再現できるか？
• RQ5 メジャリティ投票のようなデコード戦略は、誤り訂正付き量子アンケーリングにおけるサンプル分布の質にどのような影響を与えるか？

主な発見

• NQACは、特にノイズが高い状態で、サンプル分布の有効温度を有意に低下させ、誤り抑制の向上を示した。
• 全ネスティングレベルおよび長いアンケーリング時間において、学習性能の向上が確認されたが、ネスティングレベルとアンケーリング時間が増加するにつれて出力分布はギブス分布に似にくくなった。
• システムは中間のアンケーリングポイントで準静的状態となり、ダイナミクスが凍結し、分布が安定化した。これはSQAおよびSVMCのシミュレーションと整合的であった。
• 最終ハミルトニアンへの良好な平衡化がなくても、性能向上が観測された。これは、向上した学習がターゲットギブス分布への完全な熱平衡化を必要としないことを示している。
• 破損したチェーンを除外すると学習性能が著しく低下したが、メジャリティ投票は歪みを引き起こした。これは、デコード戦略がサンプリング忠実度の重要な要因であることを示している。
• 結果から、NQACはノイズの高い中規模量子アンケーリングにおいて性能向上をもたらす可能性があるが、スケーラビリティと最適パrameterチューニングは未解決の課題のままである。