[論文レビュー] Generative training of quantum Boltzmann machines with hidden units

Nathan Wiebe, Leonard Wossnig|arXiv (Cornell University)|May 23, 2019

Quantum Computing Algorithms and Architecture参考文献 37被引用数 32

ひとこと要約

本稿では、可視単位および隠れ単位を備えた量子ボルツマンマシンの生成的訓練のための2つの効率的量子アルゴリズムを提示する。目的関数として量子相対エントロピーを用いる。最初の手法は、可換な隠れハミルトニアンを持つ場合に、変分的上界を用いる。第二の手法は、高次差分とユニタリの線形結合を用いて勾配を近似し、両者とも効率的なギブス状態準備の下で効率的な訓練を達成する。

ABSTRACT

In this article we provide a method for fully quantum generative training of quantum Boltzmann machines with both visible and hidden units while using quantum relative entropy as an objective. This is significant because prior methods were not able to do so due to mathematical challenges posed by the gradient evaluation. We present two novel methods for solving this problem. The first proposal addresses it, for a class of restricted quantum Boltzmann machines with mutually commuting Hamiltonians on the hidden units, by using a variational upper bound on the quantum relative entropy. The second one uses high-order divided difference methods and linear-combinations of unitaries to approximate the exact gradient of the relative entropy for a generic quantum Boltzmann machine. Both methods are efficient under the assumption that Gibbs state preparation is efficient and that the Hamiltonian are given by a sparse row-computable matrix.

研究の動機と目的

• 可視単位および隠れ単位を備えた量子ボルツマンマシンの訓練において、長年の課題である量子相対エントロピーを目的関数として用いることの実現を図ること。
• 隠れ単位が存在する際、対数項における部分トレースに起因する勾配計算の数学的困難性を克服すること。
• システムサイズに比例してスケーラブルであり、精度を維持する実用的で効率的な量子アルゴリズムを開発すること。
• ターゲット密度演算子をよく近似するハミルトニアンを学習することで、複雑な量子状態の量子生成的モデリングを可能にすること。
• ノイズのある状態準備を含む現実的な量子ハードウェア制約下でも、勾配推定のロバスト性と精度を保証すること。

提案手法

• 隠れ単位のハミルトニアンが互いに可換である制限付き量子ボルツマンマシンに対して、量子相対エントロピーの変分的上界を導入し、勾配計算を tractable なものにする。
• 量子相対エントロピーの正確な勾配を近似するために、高次差分法を用いる。解析的微分を数値近似に置き換える。
• 時間発展演算子および状態準備を含む必要な量子操作を、誤差を制御してシミュレートするために、ユニタリの線形結合（LCU）技術を用いる。
• 全パラメータ次元にわたる勾配推定における失敗確率を低減するために、量子アモニチュード推定と中央値の平均化推定を適用する。
• スパースハミルトニアンのシミュレーションを用いた効率的なギブス状態準備を活用し、現実的な仮定の下で全体のアルゴリズムが効率的であることを保証する。
• トレースノルムの誤差境界とチェルノフ型集中不等式を組み合わせ、勾配推定手順の総合的失敗確率を境界付ける。

実験結果

リサーチクエスチョン

• RQ1 可視単位および隠れ単位を備えた量子ボルツマンマシンは、量子相対エントロピーを損失関数として用いることで、効率的に訓練可能か？
• RQ2 量子相対エントロピーの対数項における部分トレースに起因する勾配計算の非効率性を克服するための技術は何か？
• RQ3 量子シミュレーション技術を用いて、一般の量子ボルツマンマシンの勾配推定を効率的に行うことは可能か？
• RQ4 ギブス状態準備およびハミルトニアンのシミュレーションからの誤差伝播をどのように境界づけ、全体のアルゴリズムの正確性を保証できるか？
• RQ5 提案された訓練アルゴリズムのクエリ複雑度は、データ密度行列およびハミルトニアンオракルへのアクセスの観点からどの程度か？

主な発見

• 提案された変分的上界法により、可換な隠れハミルトニアンを持つクラスの制限付き量子ボルツマンマシンに対して、非効率な勾配計算を回避した効率的訓練が可能になった。
• 高次差分法とLCUを用いた一般化手法は、勾配推定に関して総合的なクエリ複雑度 \tilde{O}\left(\sqrt{\frac{N}{z}}\frac{D\|H(\theta)\|d\mu^{5}\alpha}{\epsilon^{3}}\right) を達成し、対数因子を隠蔽する。
• 勾配推定を繰り返し中央値を取ることで、総合的失敗確率が1/3未満に保証され、サンプル数はO(log D)に比例する。
• ギブス状態準備およびハミルトニアンのシミュレーションの両方について誤差境界が導出され、ほぼ線形の誤差伝播が示され、制御可能な精度のトレードオフが可能である。
• ギブス状態準備が効率的であり、ハミルトニアンがスパースかつ行計算可能行列であるという仮定の下で、本手法は効率的である。
• 本フレームワークにより、隠れ単位を備えた量子ボルツマンマシンの完全な量子生成的訓練が可能となり、量子機械学習分野における主要な未解決問題が解決された。