[論文レビュー] Quantum algorithm for logistic regression

Hailing Liu, Chao‐Hua Yu+5 more|arXiv (Cornell University)|Jun 10, 2019

Quantum Computing Algorithms and Architecture参考文献 36被引用数 6

ひとこと要約

この論文では、勾配降下法の各反復において勾配を計算する段階で指数的高速化を達成する、ロジスティック回帰のための量子アルゴリズムを提案する。量子アモニチュード推定と量子状態準備を活用することで、データポイント数Nに対してデータ次元Mが多項対数的に増加する場合に、古典的勾配を効率的に計算することができ、大規模データ分類タスクにおけるモデル学習を高速化する。

ABSTRACT

Logistic regression (LR) is an important machine learning model for classification, with wide applications in text classification, image analysis and medicine diagnosis, etc. However, training LR generally entails an iterative gradient descent method, and is quite time consuming when processing big data sets. To solve this problem, we present a quantum algorithm for LR to implement the key task of the gradient descent method, obtaining the classical gradients in each iteration. It is shown that our algorithm achieves exponential speedup over its classical counterpart in each iteration when the dimension of each data point M grows polylogarithmically with the number of data points N, i.e.,M=O(polylog N). It is worth noting that the optimal model parameters are finally derived by performing simple calculations on the obtained gradients. So once the optimal model parameters are determined, one can use them to classify new data at little cost.

研究の動機と目的

• 大規模データセットにおける古典的ロジスティック回帰の計算ボトル neck を解消するために、勾配計算ステップの高速化を図ること。
• 勾配降下法の各反復において勾配を効率的に計算する量子アルゴリズムを設計すること。これは、ロジスティック回帰学習の核となる要素である。
• データ次元Mがデータポイント数Nに対して多項対数的に増加する条件下で、古典的手法よりも指数的高速化を達成すること。
• 量子技術を用いて勾配計算の時間計算量を低減することで、ロジスティック回帰モデルの訓練をより速く行えるようにすること。

提案手法

• アルゴリズムは、古典的データポイントを量子状態に符号化するための量子状態準備を用い、高次元ベクトルの効率的取り扱いを可能にする。
• 内積の推定に量子アモニチュード推定を適用し、データポイントと現在のモデルパラメータ間の内積を推定することで、勾配計算に不可欠な量を取得する。
• 量子線形代数技術を活用して、勾配ベクトルを重ね合わせ状態として計算することで、各反復に要する時間を著しく削減する。
• アルゴリズムは、データ次元MがO(polylog N)であると仮定しており、これは大規模Nに対して実用的な量子高速化を実現可能にする。
• 勾配を符号化した量子状態を取得した後、測定に基づく推定を実行し、古典的更新ステップに必要な古典的勾配値を抽出する。
• 最終的なモデルパラメータは、量子で推定された勾配の古典的後処理によって得られ、標準的なロジスティック回帰推論パイプラインと互換性を保つ。

実験結果

リサーチクエスチョン

• RQ1 量子アルゴリズムは、ロジスティック回帰学習の勾配計算において、指数的高速化を達成できるか？
• RQ2 データ次元Mがデータポイント数Nに対してどのような条件下で、量子アルゴリズムが古典的手法を上回るか？
• RQ3 量子技術は、ロジスティック回帰における反復的勾配降下法にどのように効果的に応用できるか？
• RQ4 量子アモニチュード推定は、古典的勾配の計算を加速するために果たす役割は何か？

主な発見

• データ次元Mがデータポイント数Nに対して多項対数的に増加する場合、この量子アルゴリズムは古典的手法に比べて勾配計算で指数的高速化を達成する。
• 高速化は勾配降下法の各反復で実現され、大規模データセットの学習時間を著しく短縮する。
• 量子アモニチュード推定と状態準備を用いて、勾配ベクトルを効率的に計算することで、理論的にはより速い収束が可能になる。
• 最終的なモデルパラメータは、量子で推定された勾配の古典的後処理から得られるため、標準的な分類パイプラインと互換性がある。
• M = O(polylog N) の場合に特に効果的であり、高次元特徴を有する大規模データアプリケーションに適している。