[論文レビュー] Quantum Speedup in Adaptive Boosting of Binary Classification

Ximing Wang, Yuechi Ma+2 more|arXiv (Cornell University)|Feb 3, 2019

Quantum Computing Algorithms and Architecture被引用数 5

ひとこと要約

この論文は、量子位相推定とアモニチュード増幅を活用することで、二値分類における適応的ブースティング（AdaBoost）のクエリ複雑度において、2乗の高速化を達成する量子アルゴリズムを提案する。弱学習器を確率的出力に一般化し、弱学習器が確率的予測を出力する場合でも、量子高速化が達成可能であることを示し、クエリ複雑度が古典的場合のO(N T)に対して、O(√N T²)にスケーリングすることを示している。ここでNは訓練サンプル数、Tは反復回数である。

ABSTRACT

In classical machine learning, a set of weak classifiers can be adaptively combined to form a strong classifier for improving the overall performance, a technique called adaptive boosting (or AdaBoost). However, constructing the strong classifier for a large data set is typically resource consuming. Here we propose a quantum extension of AdaBoost, demonstrating a quantum algorithm that can output the optimal strong classifier with a quadratic speedup in the number of queries of the weak classifiers. Our results also include a generalization of the standard AdaBoost to the cases where the output of each classifier may be probabilistic even for the same input. We prove that the update rules and the query complexity of the non-deterministic classifiers are the same as those of deterministic classifiers, which may be of independent interest to the classical machine-learning community. Furthermore, the AdaBoost algorithm can also be applied to data encoded in the form of quantum states; we show how the training set can be simplified by using the tools of t-design. Our approach describes a model of quantum machine learning where quantum speedup is achieved in finding the optimal classifier, which can then be applied for classical machine-learning applications.

研究の動機と目的

• 二値分類における古典的AdaBoostのクエリ複雑度において、2乗の高速化を達成する量子アルゴリズムの開発。
• 弱学習器が同じ入力に対して確率的出力を生成する場合に、AdaBoostを一般化すること。
• 確率的分類器の場合でも、更新ルールとクエリ複雑度が古典的アルゴリズムの構造を保ち続けることを示すこと。
• 訓練データの量子状態符号化が、t-デザインを用いて簡略化可能であり、学習複雑度を低減できることを示すこと。
• 古典的応用において最適な分類器を探索する際に、量子高速化が達成可能な、量子機械学習のフレームワークを確立すること。

提案手法

• アルゴリズムは、弱学習器の誤差率を重ね合わせ状態で推定するために、アモニチュード増幅と位相推定を用い、収束を高速化する。
• ユニタリ操作 G_t U_⊥ G_t† Z を構築し、状態を |cos((2k+1)θ_t)|φ_0⟩|0⟩ + |sin((2k+1)θ_t)|φ_1⟩|1⟩ に進化させ、θ_t の位相推定を可能にする。
• 1反復あたりのクエリ複雑度は O(ĉ/ε * t) であり、ĉ は正規化係数、ε は目標精度である。
• アルゴリズムは T 回の反復を実行し、測定後に再初期化が必要となるため、合計クエリ複雑度は O(ĉ/ε * T²) となる。
• t-デザインの使用により、訓練データの量子状態符号化が簡略化され、状態準備のオーバーヘッドが低減される。
• 確率的弱学習器が更新ルールやクエリ複雑度に影響を与えないことを保証し、古典的AdaBoostと一貫性を保つ。

実験結果

リサーチクエスチョン

• RQ1 量子アルゴリズムは、二値分類における適応的ブースティングのクエリ複雑度において、2乗の高速化を達成できるか？
• RQ2 弱学習器が確率的出力を生成する場合に一般化されたAdaBoostは、決定的ケースと同一のクエリ複雑度と更新ルールを維持するか？
• RQ3 t-デザインを用いることで、訓練データの量子状態符号化を簡略化し、リソースのオーバーヘッドを低減できるか？
• RQ4 誤差率推定の精度と、量子AdaBoostアルゴリズムで必要なクエリ数との関係は何か？
• RQ5 大規模データセットを有する実世界の機械学習問題に適用した場合、量子AdaBoostアルゴリズムはスケーラブルで効果的か？

主な発見

• 量子AdaBoostアルゴリズムは、クエリ複雑度において2乗の高速化を達成し、古典的AdaBoostのO(N T)に対してO(√N T²)にスケーリングする。ここでNは訓練サンプル数、Tは反復回数である。
• 各弱学習器の誤差率を推定するためのクエリ複雑度は O(ĉ/ε) であり、ĉ = ∏_{t=1}^T max{1/(2˜R_t), 1/(2(1−˜R_t))} で、˜R_t は反復 t における誤差率である。
• 確率的弱学習器に対しても、更新ルールとクエリ複雑度が決定的ケースと同一であり、古典的機械学習分野においても独立した価値を持つ結果である。
• 位相推定を用いて θ_t を推定し、|θ_t − ˆθ_t| ≤ δ となるようにし、δ = O(ε/ĉ) とすることで、誤差率 ˜R_t の推定誤差が ε 以内に抑えられる。
• 合計クエリ複雑度は O(ĉ/ε * T²) であり、ĉ が大きく T が小さい場合、古典的O(ĉ²/ε² * T) よりも2乗速くなる。
• t-デザインの使用により、訓練データの量子状態符号化が効率的に行え、状態準備プロセスが簡略化され、オーバーヘッドが低減される。