[論文レビュー] Quantum Boosting

Srinivasan Arunachalam, Reevu Maity|arXiv (Cornell University)|Feb 12, 2020

Machine Learning and Algorithms被引用数 5

ひとこと要約

この論文は、ブール概念クラスの学習において、古典的AdaBoostより2乗の加速を達成する量子ブースティングアルゴリズムを導入する。量子アモニチュード増幅と位相推定を活用することで、時間計算量を $\mathsf{VC}(\mathcal{C}) \cdot \operatorname{poly}(R(\mathcal{C}), 1/\gamma)$ から $\sqrt{\mathsf{VC}(\mathcal{C})} \cdot \operatorname{poly}(Q(\mathcal{C}), 1/\gamma)$ に削減する。ここで $Q(\mathcal{C})$ は弱い量子学習者の時間計算量を表す。

ABSTRACT

Suppose we have a weak learning algorithm $\mathcal{A}$ for a Boolean-valued problem: $\mathcal{A}$ produces hypotheses whose bias $γ$ is small, only slightly better than random guessing (this could, for instance, be due to implementing $\mathcal{A}$ on a noisy device), can we boost the performance of $\mathcal{A}$ so that $\mathcal{A}$'s output is correct on $2/3$ of the inputs? Boosting is a technique that converts a weak and inaccurate machine learning algorithm into a strong accurate learning algorithm. The AdaBoost algorithm by Freund and Schapire (for which they were awarded the Gödel prize in 2003) is one of the widely used boosting algorithms, with many applications in theory and practice. Suppose we have a $γ$-weak learner for a Boolean concept class $C$ that takes time $R(C)$, then the time complexity of AdaBoost scales as $VC(C)\cdot poly(R(C), 1/γ)$, where $VC(C)$ is the $VC$-dimension of $C$. In this paper, we show how quantum techniques can improve the time complexity of classical AdaBoost. To this end, suppose we have a $γ$-weak quantum learner for a Boolean concept class $C$ that takes time $Q(C)$, we introduce a quantum boosting algorithm whose complexity scales as $\sqrt{VC(C)}\cdot poly(Q(C),1/γ);$ thereby achieving a quadratic quantum improvement over classical AdaBoost in terms of $VC(C)$.

研究の動機と目的

• ノイジィな中規模量子（NISQ）デバイスに実装された弱い量子機械学習アルゴリズムの性能を向上させる課題に対処すること。
• 小さなバイアス $\gamma$ を持つ弱い量子学習者を、入力に対して正確性 $2/3$ を達成する強い学習者に変換する量子ブースティングフレームワークを開発すること。
• 特にVC次元 $\mathsf{VC}(\mathcal{C})$ に依存する点で、古典的AdaBoostに比べて時間計算量の量子的加速を達成すること。
• 近い将来の量子デバイスに現実的な仮定の下でも、効率的かつ実用的であることを保証すること。

提案手法

• バイアス $\gamma$ をわずかにランダムより良い出力を生成する、時間計算量 $Q(\mathcal{C})$ の量子弱学習者 $\mathcal{A}$ を使用する。
• アモニチュード増幅を用いて、量子状態における正解予測の確率を増幅し、弱学習者の有効な正確性を向上させる。
• 各仮説 $h_t$ の重み付き誤差 $\widetilde{\varepsilon}_t$ を高精度に推定するために位相推定を用いる。
• 誤差推定に基づく量子制御回転を用いて、古典的AdaBoostに類似した状態で、訓練例の分布を動的に更新する（重ね合わせ状態で）。
• 量子探索とアモニチュード推定を用いて、推定誤差 $\varepsilon'_t$ がしきい値未満かどうかを判断するサブルーチンを統合する。
• $T = O(\log M / \gamma^2)$ 個の仮説を、学習された重み $\alpha'_t$ を用いた重み付き多数決投票で組み合わせ、最終的な強い仮説 $H(x) = \mathrm{sign}(\sum_t \alpha'_t h_t(x))$ を形成する。

実験結果

リサーチクエスチョン

• RQ1 弱い量子学習者（バイアス $\gamma$ が小さい）の性能を、量子技術を用いて強力な学習の正確性に向上させることは可能か？
• RQ2 VC次元 $\mathsf{VC}(\mathcal{C})$ に依存する点で、量子ブースティングアルゴリズムは、古典的AdaBoostに比べて明示的な加速を達成するか？
• RQ3 量子アモニチュード増幅と位相推定をブースティングフレームワークに効果的に組み合わせ、時間計算量を低減できるか？
• RQ4 ノイズに強く、限られた量子ビットコherエンスとゲート忠実度を有する近い将来の量子デバイスでも実行可能か？
• RQ5 量子ブースティング設定において、反復回数 $T$、誤差推定の精度、および全体のクエリ計算量の最適なトレードオフは何か？

主な発見

• 量子ブースティングアルゴリズムは、$\sqrt{\mathsf{VC}(\mathcal{C})} \cdot \operatorname{poly}(Q(\mathcal{C}), 1/\gamma)$ の時間計算量を達成し、古典的AdaBoostの $\mathsf{VC}(\mathcal{C}) \cdot \operatorname{poly}(R(\mathcal{C}), 1/\gamma)$ に比べて2乗の改善を示す。
• 各弱い仮説の誤差を高精度に推定するために、アモニチュード増幅と位相推定を用いることで、必要なクエリ数を削減する。
• 量子学習者およびオракルへの総クエリ数は、$O(\sqrt{M} Q^{3/2} T^3)$ で抑えられ、ここで $M$ は訓練サンプル数、$T = O(\log M / \gamma^2)$ である。
• 推定誤差と仮説の信頼性に基づいて、量子制御回転を用いて訓練例の分布を更新する。
• サブルーチンの「いいえ」インスタンスでは、$\widetilde{\varepsilon} < 1/(Q T^2)$ が保証され、ブースティングプロセスの停止または調整を正しく識別するのを助ける。
• 最終的な仮説 $H(x)$ は、学習された重み $\alpha'_t$ を用いた $T$ 個の弱い仮説の符号付き和として構築され、高い確率で少なくとも $2/3$ の入力に対して正しく動作する。